La société OpenAI est confrontée à une vague de troubles internes et de critiques externes concernant ses pratiques et les risques potentiels associés à sa technologie. En mai, plusieurs employés de haut niveau ont quitté l’entreprise, dont Jan Leike, l’ancien responsable des efforts de “super alignement” d’OpenAI visant à garantir que les systèmes d’IA avancés restent alignés sur les valeurs humaines. Le départ de Leike est survenu peu de temps après qu’OpenAI ait dévoilé son nouveau modèle phare GPT-4o, qu’il a qualifié de “magique” lors de son événement de mise à jour de printemps.
Selon les rapports, le départ de Leike a été motivé par des désaccords constants concernant les mesures de sécurité, les pratiques de surveillance et la priorisation des sorties de produits spectaculaires par rapport aux considérations de sécurité. Le départ de Leike a ouvert une boîte de Pandore pour la firme d’IA. D’anciens membres du conseil d’administration d’OpenAI ont fait des allégations d’abus psychologique contre le PDG Sam Altman et les dirigeants de l’entreprise.
Les troubles internes croissants chez OpenAI coïncident avec une inquiétude croissante à l’externe concernant les risques potentiels posés par la technologie d’IA générative comme les propres modèles de langage de la société. Des critiques ont mis en garde contre la menace existentielle imminente d’une IA avancée dépassant les capacités humaines, ainsi que des risques plus immédiats tels que le déplacement d’emplois et la militarisation de l’IA pour des campagnes de désinformation et de manipulation.
En réponse, un groupe d’employés actuels et anciens d’OpenAI, Anthropic, DeepMind, et d’autres grandes entreprises d’IA ont rédigé une lettre ouverte abordant ces risques. Cette lettre, qui a été signée par 13 employés et soutenue par les pionniers de l’IA Yoshua Bengio et Geoffrey Hinton, énonce quatre demandes fondamentales visant à protéger les lanceurs d’alerte et à favoriser une plus grande transparence et responsabilité autour du développement de l’IA.
Alors que la révolution de l’IA avance à grands pas, les troubles internes et les demandes des lanceurs d’alerte chez OpenAI soulignent les douleurs de croissance et les dilemmes éthiques non résolus entourant la technologie. Restez à l’écoute pour plus de développements sur ce sujet passionnant et continuer à suivre l’évolution de l’IA et des mégadonnées grâce à TechForge Media.