La société OpenAI fait actuellement face à une vague de conflits internes et de critiques externes concernant ses pratiques et les risques potentiels liés à sa technologie.
Récemment, plusieurs employés de haut niveau ont quitté l’entreprise, dont Jan Leike, ancien responsable des efforts d’OpenAI en matière d'”alignement super” visant à garantir que les systèmes d’IA avancés restent alignés avec les valeurs humaines. Le départ de Leike a eu lieu peu de temps après la présentation du nouveau modèle phare de OpenAI, le GPT-4o, vanté comme “magique” lors de son événement Spring Update.
Selon les rapports, le départ de Leike a été motivé par des désaccords constants concernant les mesures de sécurité, les pratiques de surveillance et la priorisation des sorties de produits spectaculaires par rapport aux considérations de sécurité.
Le départ de Leike a ouvert la boîte de Pandore pour la société d’IA. Des anciens membres du conseil d’administration de OpenAI ont fait part d’allégations de maltraitance psychologique à l’encontre du PDG Sam Altman et de la direction de l’entreprise.
La montée de troubles internes chez OpenAI coïncide avec une préoccupation croissante à l’externe concernant les risques potentiels posés par la technologie d’IA générative comme les propres modèles de langage de l’entreprise. Les critiques ont mis en garde contre la menace existentielle imminente que représente une IA avancée dépassant les capacités humaines, ainsi que des risques plus immédiats tels que le remplacement d’emplois et la militarisation de l’IA pour des campagnes de désinformation et de manipulation.
En réponse, un groupe d’employés actuels et anciens de OpenAI, Anthropic, DeepMind et d’autres principales entreprises d’IA ont rédigé une lettre ouverte abordant ces risques.
“Nous sommes des employés actuels et anciens de sociétés d’IA de pointe, et nous croyons au potentiel de la technologie d’IA pour offrir des avantages sans précédent à l’humanité. Nous comprenons également les risques sérieux posés par ces technologies”, déclare la lettre.
La lettre, signée par 13 employés et soutenue par les pionniers de l’IA Yoshua Bengio et Geoffrey Hinton, définit quatre demandes essentielles visant à protéger les lanceurs d’alerte et à favoriser une plus grande transparence et responsabilité autour du développement de l’IA :
Que les entreprises ne fassent pas respecter les clauses de non-dénigrement ou ne se vengent pas des employés soulevant des préoccupations liées aux risques. Que les entreprises facilitent un processus de signalement vérifiablement anonyme pour les employés auprès des conseils d’administration, des régulateurs et des experts indépendants. Que les entreprises soutiennent une culture de critique ouverte et permettent aux employés de partager publiquement des préoccupations liées aux risques, avec une protection appropriée des secrets commerciaux. Que les entreprises ne se vengent pas contre les employés partageant des informations confidentielles liées aux risques après l’échec d’autres processus.
Ces demandes interviennent alors que des rapports ont révélé qu’OpenAI a contraint les employés partant à signer des accords de non-divulgation les empêchant de critiquer l’entreprise sous peine de perdre leurs avoirs. Le PDG de OpenAI, Sam Altman, a admis être “embarrassé” par la situation, mais a affirmé que la société n’avait en réalité jamais repris les avoirs acquis des employés.
Alors que la révolution de l’IA avance, les conflits internes et les demandes des lanceurs d’alerte chez OpenAI mettent en lumière les douleurs de croissance et les dilemmes éthiques non résolus entourant la technologie.
Voulez-vous en savoir plus sur l’IA et le big data avec des experts de l’industrie ? Découvrez Expo IA & Big Data qui se tiendra à Amsterdam, en Californie et à Londres. Cet événement complet est organisé conjointement avec d’autres événements de premier plan, notamment la Conférence sur l’automatisation intelligente, BlockX, la Semaine de la transformation numérique et les expositions sur la cybersécurité et le cloud.
Explorer d’autres événements et webinaires à venir sur la technologie d’entreprise proposés par TechForge ici.