Sam Altman, PDG d'OpenAI, sur l'avenir de l'IA : « le monde devrait accepter que de mauvaises choses se produisent »

L'IA est un outil puissant. Que vous utilisiez ChatGPT, Claude, Gemini ou tout autre modèle, vous pouvez accomplir beaucoup de choses avec l'IA. Mais cela suscite de nombreuses inquiétudes, la moindre n’étant pas l’idée que l’IA devienne voyou. De plus, les centres de données créent des problèmes environnementaux.

Malgré tout le bien que l’IA peut faire (et l’a déjà fait), elle pourrait aussi causer des choses terribles. Et selon Sam Altman, PDG d'OpenAI, dans une interview avec Decoded by POLITICO, « le monde devrait accepter que de mauvaises choses se produisent » à cause de l'IA. C'est peut-être assez facile à accepter en tant que PDG de l'une des plus grandes sociétés d'IA au monde, mais pour moi, un écrivain dont les moyens de subsistance sont constamment menacés d'être volés par l'IA, c'est un peu plus difficile à ignorer.

Et la perte d’emploi pourrait être mineure par rapport aux autres risques suggérés par les experts en IA. Selon l'AI Risk Initiative du MIT, « 18 risques sur 24 ont plus de 10 % de chances d'entraîner des conséquences catastrophiques ». Ces risques « pourraient inclure plus d’un million de décès, plus de 100 milliards de dollars de pertes financières ou d’autres préjudices ».

Oui, nous devrions probablement simplement les accepter afin de pouvoir gagner du temps sur nos flux de travail chaque jour.

Qu'a dit Sam Altman ?

La citation complète de Sam Altman est la suivante : « Je pense qu'il y a beaucoup de lumière du jour. Nous pensons que le monde devrait accepter que de mauvaises choses se produisent pour les avantages de cette technologie et des personnes qui disposent de l'agence. »

Il a également parlé d'une structure d'IA plus centrale pour éviter que de mauvaises choses ne se produisent : « Je ne suis pas d'accord, mais je comprends le point de vue des gens qui disent : 'Cette technologie va devenir si puissante, et elle est si dangereuse, qu'un seul laboratoire à San Francisco devrait l'avoir et s'assurer que rien de grave ne se passe, et trouver en quelque sorte comment en répartir les bénéfices », a déclaré Altman.

Mais Altman ne se contente pas de dire que de nombreuses mauvaises choses vont se produire et que nous sommes condamnés à les accepter. Il estime qu’en gardant une position plus légère en matière de réglementation de l’IA, « les gens feront énormément – ​​des ordres de grandeur plus – de bonnes choses que de mauvaises choses ».

Altman n’accepte pas non plus « les risques réellement catastrophiques », y compris le potentiel d’une « grave perte de contrôle de l’IA ». Évidemment, je veux qu’il ait raison, et j’aime à quel point l’IA peut rationaliser les choses, mais je ne suis pas non plus disposé à prendre pour un fait l’idée d’une seule personne sur les « risques catastrophiques ».

Seul le temps nous dira si nous devrons faire face aux risques catastrophiques liés à l’IA. Dans un monde parfait, tout le monde travaillerait moins à mesure que l’IA prendrait en charge des tâches ennuyeuses et répétitives et que le coût des marchandises diminuerait considérablement en raison de l’efficacité.

Mais nous ne vivons pas dans un monde parfait, donc je ne suis pas disposé à accepter que « de mauvaises choses se produisent » sans examen minutieux.