Import AI 477 : Dans lequel j'annonce au FMI que la Singularité a commencé

Bienvenue sur Import AI, une newsletter consacrée à la recherche en IA. Import AI fonctionne grâce à arXiv, aux cappuccinos et aux retours des lecteurs. Si vous souhaitez soutenir cette initiative, veuillez vous abonner.

Détails

Voici un discours que j'ai prononcé le samedi 17 octobre lors de la réunion du FMI à Bangkok. Ce discours s'inspire de la méga-tendance que les lecteurs m'ont vu couvrir cette année, à savoir l'IA qui commence à opérer à la pointe de la science humaine, parfois de manière autonome. Bien que nous puissions tous discuter des détails, je pense qu'il est évident que nous sommes aux premiers stades de la singularité, et je voulais profiter de ma position privilégiée, celle de donner la conférence Per Jacobsson, pour tenter de dire à l'audience réunie d'économistes, de banquiers et de décideurs politiques qu'ils devraient s'attendre à des changements significatifs et rapides à l'avenir.

Contexte

Dans ce discours, je me suis principalement concentré sur la manière dont l'humanité peut partager les bénéfices de l'IA si nous faisons preuve de clairvoyance et de retenue appropriées, et je vais développer les enjeux de la singularité et les risques auxquels nous serons tous confrontés dans les prochains numéros. Comme je l'ai dit à plusieurs reprises dans le discours – dont certaines parties étaient improvisées et non transcrites ici – je prends ma propre responsabilité à cet égard extrêmement au sérieux.

Impact

Je me considère à la fois comme un narrateur de ce qui se passe dans l'IA, un agent principal derrière ce qui se passe dans l'IA, et un traducteur qui fait le lien entre de nombreuses communautés. Dans tout cela, je cherche à être véridique et clair sur ma propre culpabilité. Les discours comme celui-ci s'inspirent largement de la newsletter, et la newsletter est ma tentative de vous fournir des informations semaine après semaine.

Prochaines étapes

\\ À l'intérieur de l'horizon des événements : Pourquoi tout le monde devrait prendre le progrès de l'IA au sérieux. Bonjour, merci de m'avoir invité. Pour commencer, je devrais énumérer mes qualifications pertinentes : je suis un être humain. Il m'a fallu près de 40 ans pour acquérir l'expérience nécessaire pour donner ce discours. Je reviendrai sur ces qualifications plus tard. Toute ma carrière a été définie par la recherche d'informations qui semblaient importantes pour l'avenir du monde, puis par la communication de ces informations au monde. Il y a deux décennies, j'ai commencé ma carrière en tant que journaliste, me concentrant sur les centres de données.

Antécédents

Grâce à ce travail, je suis devenu tellement obsédé par l'IA qu'en 2016, j'ai quitté le journalisme pour travailler chez OpenAI, puis j'ai cofondé Anthropic quelques années plus tard. Depuis lors, j'essaie de convaincre le monde qu'un jour, les systèmes d'IA pourraient devenir si puissants qu'ils pourraient altérer la sécurité nationale, changer la trajectoire économique de la planète, et peut-être éventuellement acquérir la capacité de se construire eux-mêmes.

Analyse

L'IA change actuellement la sécurité nationale, elle altère la trajectoire économique du monde – comme nous l'avons entendu dans de nombreuses sessions ici – et contribue à son propre développement. Bien sûr, beaucoup d'entre vous le savent, et vous devez suivre l'IA comme l'une des multiples forces déstabilisatrices qui façonnent votre monde et votre travail. Ce que je suis ici pour expliquer aujourd'hui, c'est que l'IA est en passe d'apporter encore plus de changements que ce que nous attendons, et nous devrions nous y préparer en conséquence.

Plus

Depuis de nombreuses années, les chercheurs et les auteurs de science-fiction prévoient un avenir dans lequel les systèmes d'IA augmenteront considérablement le rythme du progrès scientifique et technique global, rendant les choses si rapides qu'il est difficile pour les humains de suivre. Je crois que cette année, nous avons obtenu des preuves convaincantes que cela a maintenant commencé. L'écrivain Vernor Vinge a prédit cela en 1993.