Il y a quelque chose de particulièrement lassant chez ces dirigeants du secteur de l’IA qui ne cessent de nous répéter à quel point leur propre technologie peut devenir dangereuse. Sam Altman, PDG d’OpenAI, l’a encore fait lors du lancement d’Astra. Selon lui, les derniers modèles deviennent « surhumains » à certains égards, nous entrons en terrain inconnu et nous devons tous prendre conscience de la responsabilité qui en découle. Des paroles impressionnantes. Sauf qu’entre-temps, Astra fait tout simplement son apparition sur le marché. Imaginez qu’un laboratoire pharmaceutique présente un nouveau médicament et admette, lors de sa présentation, que personne ne comprend pleinement ses effets secondaires, ou qu’un constructeur automobile commercialise une nouvelle voiture sans savoir si les freins fonctionnent à toutes les vitesses. Personne ne l’accepterait, mais en matière d’IA, une telle « assurance » semble apparemment suffire.
Oppenheimer sans excuse
Il y a aussi quelque chose de presque inhumain dans le fait de créer délibérément quelque chose qui, selon soi, peut être dangereux, pour ensuite ne pratiquement rien faire de cette connaissance. Peut-être est-ce justement très humain. Après tout, l’histoire regorge d’inventeurs qui ne se sont véritablement penchés sur les conséquences de leur travail qu’une fois celui-ci achevé. Altman me fait de plus en plus penser à Oppenheimer. Robert Oppenheimer a dirigé le développement de la bombe atomique et a prononcé plus tard ces mots célèbres : « Now I am become Death, the destroyer of worlds. » Seulement, la bombe atomique s’inscrivait dans le contexte d’une guerre mondiale et d’une course aux armements ayant un objectif militaire clair. On peut débattre sans fin de sa légitimité, mais en tout cas, les enjeux étaient bien plus importants que de meilleures présentations d’entreprise et un service client généré automatiquement. OpenAI ne développe pas Astra pour mettre fin à une guerre mondiale. L’entreprise développe Astra parce qu’une IA plus puissante peut rapporter des milliards et parce que ses concurrents font de même. Les inquiétudes d’Altman semblent donc surtout s’inscrire dans une stratégie commerciale. Ce danger renforce le mythe autour d’Astra : un modèle si puissant que même son créateur dit en avoir peur.
Avertir sans conséquences
Altman aime se présenter comme le réaliste responsable, à mi-chemin entre le progrès aveugle et le catastrophisme. OpenAI agirait avec prudence, en donnant toujours la priorité à l’humain. Ce discours devient de plus en plus difficile à croire. L’année dernière déjà, Altman avait prévenu que des catégories professionnelles entières risquaient de disparaître, citant clairement le service client comme exemple. Dans le même temps, son entreprise développe des agents IA qui sont justement destinés à prendre en charge de plus en plus de tâches humaines. De telles prévisions devraient s’accompagner de limites strictes, d’une surveillance indépendante et d’un plan clair pour les salariés susceptibles de perdre leur emploi. OpenAI se concentre surtout sur le lancement de produits encore plus puissants. De même, l’impact écologique est souvent curieusement passé sous silence. Les centres de données dédiés à l’IA consomment d’énormes quantités d’électricité et d’eau, alors que chaque entreprise souhaite entraîner des modèles toujours plus puissants et inciter des milliards d’utilisateurs à saisir autant de requêtes que possible. L’IA constitue donc un problème écologique en pleine expansion, largement alimenté par des fonctionnalités dont nous ne ressentions même pas le manque il y a quelques années. Nous sacrifions de l’énergie, de l’eau et des matières premières pour qu’un chatbot puisse rédiger une lettre de candidature médiocre en trois secondes.
Apparemment, la course est plus importante
La vérité, c’est qu’OpenAI n’a pas l’intention de s’arrêter. Google, Anthropic, Meta et d’autres entreprises le talonnent de près. La prudence, c’est bien beau dans une interview, mais à la Silicon Valley, elle compte moins que les parts de marché. Les avertissements volontaires ne suffisent donc pas. C’est à OpenAI de déterminer quand sa technologie sera suffisamment sûre. Quiconque émet des avertissements aussi graves doit en tirer les conséquences. Il faut faire réaliser des tests de sécurité indépendants, donner accès aux autorités de contrôle et reporter un lancement si les risques ne sont pas clairement identifiés. Si nécessaire, il ne faut pas lancer de modèle du tout. Tant qu’OpenAI continuera à développer allègrement ses technologies, toutes ces inquiétudes resteront hypocrites et vides de sens. Altman souhaite que le monde prenne l’IA très au sérieux. Très bien. Qu’il commence alors par prendre ses propres avertissements au sérieux.
