👀 Dario Amodei est-il le vrai prophète de l'IA ?

🧐 Hello, vous aussi quand on vous parle d’IA, il y a le visage poupon de Sam Altman qui apparaît dans un coin de votre tête ? Et bien sachez que si le boss d’OpenAI est bien la tête de gondole, il n’est pas le gourou de l’IA. Le vrai prophète s’appelle Dario Amodei, le patron d’Anthropic et père du moins connu médiatiquement mais sous-estimé Claude, modèle concurrent de ChatGPT. Il le prouve encore en publiant un essai hyper stimulant et on vous raconte comment ce génie essaye d’imposer son modèle d’intelligence artificielle générative.

🧨 Au programme : 950 mots pour 4 minutes de lecture. Enjoy ! David.

C’est un drôle de personnage, à l’allure bonhomme, le plus souvent en tee-shirt à la Zuckerberg de l’ancien temps. Et c’est une tronche. Précisons toutefois d’entrée qu’il n’existerait sûrement pas sans sa sœur, Daniela, avec laquelle il a fondé Anthropic et qui est la présidente de l’entreprise. Si les deux forment un duo inséparable, c’est lui qui incarne le rôle du visionnaire.

L’homme est docteur en biophysique et sur son CV, il coche les cases de meilleures universités américaines (Caltech, Stanford et Princeton). Tout logiquement, il se fait rapidement repérer par des entreprises comme le Chinois Baidu, avant de travailler chez Google Brain. Et en 2016, il rejoint une start-up qui vient de se créer et qui s’appelle… OpenAI. Il en devient un des piliers indispensables, en tant que vice-président de la recherche.

Mais dès 2019, il s’inquiète de ce qu’est en train de devenir OpenAI. ChatGPT n’est pas encore ouvert mais les développements des modèles semblent provoquer une scission entre Amodei et Altman. On ne sait pas grand-chose de cet épisode car les deux personnages ne l’évoquent qu’à mots prudents, mais il semble s’être passé peu ou prou ce qui a conduit à la tentative d’éviction de Sam Altman d’OpenAI l’an dernier : à savoir que l’entreprise star de l’IA s’intéresse désormais plus à la puissance de ces outils qu’aux questions de sécurité qu’ils engendrent.

Dario Amodei quitte donc OpenAI avec plusieurs ingénieurs de la compagnie et sa sœur qui s’occupait des questions de sécurité… Tout ce petit monde part donc fonder Anthropic avec l’idée d’en faire quelque chose de différent.

Quand Dario tente de mimer le mot « AI » avec ses mains

^{UN MOT DE NOTRE SPONSOR}

Sherpai, le guide IA pour atteindre les sommets des réseaux sociaux. Toutes vos données issues des réseaux sociaux au même endroit. L’intelligence artificielle pour les interpréter. Pour plus d’infos, contactez agathe@loopsider.com.

Il faut donc repartir de zéro en posant de nouvelles bases, plus sûres, plus fiables. Et qui ne fassent pas autre chose que ce que les utilisateurs leur demandent de faire.

L’équipe repose donc ses travaux sur une approche différente. Il s’agit de développer un modèle, qui répond au petit nom de Claude, tout en essayant de comprendre comment il fonctionne de l’intérieur. Ça s’appelle l’interprétabilité mécanistique et tout le monde est en train de s’y mettre car le fonctionnement de l’IA est de plus en plus complexe au fur et à mesure des mises à jour.

Autre élément différenciant : la rédaction d’une constitution censée régir le fonctionnement de l’IA. Il y a un an, Usbek & Rica racontait comment Anthropic a consulté un millier d’Américains pour rédiger un tel texte. Les participants avaient été invités à voter pour ou contre une série de déclarations, par exemple « L’IA devrait prioriser les besoins de communautés marginalisées » ou « L’IA ne devrait pas tenir des propos sexistes ou racistes. »  Un socle commun qui doit permettre aux systèmes d’IA de rester alignés sur les valeurs humaines.

D’un point de vue des performances, Claude ne semble rien avoir à envier à ChatGPT et le bot conversationnel attire les investisseurs comme Amazon ou Google.

À ce stade, on pourrait se dire que tout cela est un positionnement marketing pour Anthropic. On ne peut pas l’exclure, mais ça serait mal connaître l’état d’esprit de son cofondateur qui vient de publier un essai sur l’avenir de l’IA qui fait beaucoup parler.

Parce que c’est la première fois qu’on lit un tel plaidoyer qui oscille parfois entre les tables des Dix commandements et les prédictions de Nostradamus. Mais on ne peut pas nier une envie de regarder les IA autrement, de réfléchir à ce qu’elles sont vraiment et ce qu’elles pourraient devenir. En mieux et en pire.

Dario Amodei développe une vision optimiste et volontaire, loin des emballements ou au contraire des tentations catastrophistes. Il y fait un certain nombre de prédictions qu’on va tenter de résumer :

• L’IA va permettre d’améliorer la qualité de vie : accélération du rythme des découvertes médicales, élimination de la plupart des cancers, traitements efficaces contre des maladies génétiques, guérison de la plupart des maladies mentales…

• L’IA va être source de développement économique pour les pays en voie de développement

• L’IA peut aider à une meilleure gouvernance mondiale

• L’IA va donner du sens à nos vies

Bref, à le lire, l’IA sera LA solution si tant est qu’on saura suivre le chemin tracé par Dario Amodei. On a demandé à une IA de lire son essai et nous dire quelle personnalité se dégageait de ce texte. Elle nous a répondu ça : « Amodei se présente comme un leader visionnaire, un penseur rigoureux et un humaniste convaincu. Son optimisme, tempéré par la prudence et la lucidité, inspire la confiance et l'espoir. Sa vision d'un futur radicalement amélioré par l'IA, même si elle peut paraître utopique, invite à la réflexion et à l'action collective. »

Tout cela se heurte bien évidemment à des questions plus complexes et pragmatiques. La vision de Dario Amodei ne pourrait se réaliser qu’à certaines conditions, j’en cite quelques-unes: la capacité des Etats à s’entendre pour encadrer les développements de l’IA, la volonté politique d’utiliser cet outil pour penser la société du travail autrement et pour permettre un déploiement de ses bienfaits vers les pays en voie de développement… Ça fait déjà beaucoup.

^{UN MOT DE NOTRE PODCAST}

On remercie France Inter de nous avoir cité et interviewé pour parler de « NoteBook LM», cet outil fou de Google qui permet de créer un podcast en quelques minutes. Pour retrouver la chronique, c’est ici.

Et pour écouter notre podcast créé à 100% grâce à l’IA de Google, c’est ici !