OpenAI fait face à des tensions internes et à des critiques externes concernant ses pratiques et les risques potentiels posés par sa technologie.
En mai, plusieurs employés de haut niveau ont quitté l’entreprise, dont Jan Leike, l’ancien responsable des efforts de “super alignement” d’OpenAI visant à garantir que les systèmes IA avancés restent alignés avec les valeurs humaines. Le départ de Leike est intervenu peu de temps après qu’OpenAI ait dévoilé son nouveau modèle phare GPT-40, qu’il vantait comme “magique” lors de son événement de mise à jour de printemps.
Selon les rapports, le départ de Leike a été motivé par des désaccords constants sur les mesures de sécurité, les pratiques de surveillance, et la priorisation des lancements de produits spectaculaires par rapport aux considérations de sécurité.
Le départ de Leike a ouvert la boîte de Pandore pour l’entreprise d’IA. D’anciens membres du conseil d’administration d’OpenAI ont témoigné d’allégations d’abus psychologiques contre le PDG Sam Altman et la direction de l’entreprise.
Les troubles internes croissants chez OpenAI coïncident avec des préoccupations externes grandissantes concernant les risques potentiels posés par la technologie d’IA générative comme les propres modèles linguistiques de l’entreprise. Les critiques ont mis en garde contre la menace existentielle imminente que représente une IA avancée dépassant les capacités humaines, ainsi que des risques plus immédiats comme le déplacement d’emplois et l’armement de l’IA pour des campagnes de désinformation et de manipulation.
En réponse, un groupe d’employés actuels et anciens d’OpenAI, Anthropic, DeepMind, et d’autres principales entreprises d’IA ont rédigé une lettre ouverte abordant ces risques.
“Nous sommes des employés actuels et anciens d’entreprises d’IA de pointe et nous croyons au potentiel de la technologie de l’IA pour offrir des avantages sans précédent à l’humanité. Nous comprenons également les risques sérieux posés par ces technologies”, indique la lettre.
La lettre, signée par 13 employés et soutenue par les pionniers de l’IA Yoshua Bengio et Geoffrey Hinton, énonce quatre demandes essentielles visant à protéger les lanceurs d’alerte et à favoriser une plus grande transparence et responsabilité autour du développement de l’IA :
Les entreprises ne feront pas respecter les clauses de non-diffamation ou ne se vengeront pas contre les employés soulevant des préoccupations liées aux risques. Les entreprises faciliteront un processus vérifiablement anonyme permettant aux employés de soulever des préoccupations auprès des conseils d’administration, des régulateurs et des experts indépendants. Les entreprises soutiendront une culture de critique ouverte et permettront aux employés de partager publiquement des préoccupations liées aux risques, avec une protection appropriée des secrets commerciaux. Les entreprises ne se vengeront pas contre les employés partageant des informations confidentielles sur les risques après l’échec des autres processus.
Les demandes interviennent alors que des rapports indiquent qu’OpenAI a forcé les employés partants à signer des accords de non-divulgation les empêchant de critiquer l’entreprise ou de risquer de perdre leurs capitaux propres acquis. Le PDG d’OpenAI, Sam Altman, s’est dit “embarrassé” par la situation mais a affirmé que l’entreprise n’avait en fait jamais récupéré les capitaux propres de quiconque.
Alors que la révolution de l’IA avance rapidement, les tensions internes et les demandes des lanceurs d’alerte chez OpenAI mettent en lumière les douleurs de croissance et les dilemmes éthiques non résolus entourant la technologie.
Découvrez également : OpenAI perturbe cinq opérations d’influence secrètes
Vous souhaitez en savoir plus sur l’IA et le big data auprès de leaders de l’industrie ? Consultez l’AI & Big Data Expo qui se déroule à Amsterdam, en Californie et à Londres. Cet événement complet est co-localisé avec d’autres événements de premier plan, dont la Conférence sur l’Automatisation Intelligente, BlockX, la Semaine de la Transformation Digitale, et le Cyber Security & Cloud Expo.
Explorez d’autres événements technologiques d’entreprise à venir et des webinaires organisés par TechForge ici.