Le géant de l’intelligence artificielle, OpenAI, est confronté à une vague de discorde interne et de critiques externes concernant ses pratiques et les risques potentiels posés par sa technologie.
En mai, plusieurs employés de haut niveau ont quitté l’entreprise, notamment Jan Leike, l’ancien responsable des efforts de “super alignement” d’OpenAI visant à garantir que les systèmes IA avancés restent alignés sur les valeurs humaines. Le départ de Leike est intervenu peu de temps après que OpenAI a dévoilé son nouveau modèle phare GPT-4o, qu’il a décrit comme “magique” lors de son événement de mise à jour de printemps.
Selon les rapports, le départ de Leike a été motivé par des désaccords constants concernant les mesures de sécurité, les pratiques de surveillance et la priorisation des lancements de produits sensationnels par rapport aux considérations de sécurité.
Le départ de Leike a ouvert une boîte de Pandore pour l’entreprise. Des anciens membres du conseil d’administration d’OpenAI se sont manifestés avec des allégations de maltraitance psychologique à l’encontre du PDG Sam Altman et de la direction de l’entreprise.
Les tourments internes croissants à OpenAI coïncident avec des inquiétudes croissantes à l’externe concernant les risques potentiels posés par la technologie d’IA générative comme les propres modèles linguistiques de l’entreprise. Les détracteurs ont averti de la menace existentielle imminente d’une IA avancée surpassant les capacités humaines, ainsi que des risques plus immédiats tels que le déplacement de l’emploi et l’armement de l’IA pour des campagnes de désinformation et de manipulation.
En réponse, un groupe d’employés actuels et anciens d’OpenAI, d’Anthropic, de DeepMind et d’autres grandes entreprises d’IA ont rédigé une lettre ouverte abordant ces risques.
“Nous sommes des employés actuels et anciens de grandes entreprises d’IA de pointe, et nous croyons au potentiel de la technologie d’IA pour offrir des avantages sans précédent à l’humanité. Nous comprenons également les risques sérieux posés par ces technologies”, indique la lettre.
La lettre, signée par 13 employés et soutenue par des pionniers de l’IA comme Yoshua Bengio et Geoffrey Hinton, formule quatre demandes essentielles visant à protéger les lanceurs d’alerte et à favoriser une plus grande transparence et responsabilité autour du développement de l’IA :
Que les entreprises ne fassent pas respecter des clauses de non-dénigrement ou ne se vengent pas contre les employés qui soulèvent des préoccupations liées aux risques. Que les entreprises facilitent un processus vérifiablement anonyme pour que les employés puissent soulever des préoccupations auprès des conseils d’administration, des régulateurs et des experts indépendants. Que les entreprises soutiennent une culture de la critique ouverte et permettent aux employés de partager publiquement des préoccupations liées aux risques, en protégeant les secrets commerciaux. Que les entreprises ne se vengent pas contre les employés qui partagent des informations confidentielles liées aux risques une fois que d’autres processus ont échoué.
Ces demandes interviennent alors que des rapports indiquent qu’OpenAI a contraint des employés partants à signer des accords de non-divulgation les empêchant de critiquer l’entreprise sous peine de perdre leurs actions acquises. Le PDG d’OpenAI, Sam Altman, a admis être “embarrassé” par la situation mais a affirmé que l’entreprise n’avait en réalité jamais repris les actions acquises de quiconque.
Alors que la révolution de l’IA avance à grands pas, les dissensions internes et les demandes des lanceurs d’alerte chez OpenAI mettent en lumière les difficultés croissantes et les dilemmes éthiques non résolus entourant la technologie.
Voulez-vous en savoir plus sur l’IA et le big data auprès de leaders de l’industrie ? Consultez l’AI & Big Data Expo qui se déroulera à Amsterdam, en Californie et à Londres. Cet événement complet est organisé conjointement avec d’autres événements de premier plan tels que la Conférence sur l’automatisation intelligente, BlockX, la Semaine de la transformation numérique et l’Exposition sur la cybersécurité et le cloud.
Explorez d’autres événements technologiques d’entreprise à venir et des webinaires proposés par TechForge ici.