Les tensions internes et les critiques à l’encontre d’OpenAI mettent en lumière les enjeux éthiques et les risques potentiels associés à la technologie de l’entreprise.
En mai dernier, plusieurs employés de haut niveau ont quitté la société, dont Jan Leike, l’ancien responsable des efforts de “super alignement” d’OpenAI pour garantir que les systèmes d’IA avancée restent alignés sur les valeurs humaines. Le départ de Leike est survenu peu de temps après la présentation du nouveau modèle phare de l’entreprise, le GPT-4o, lors de son événement de mise à jour de printemps.
Selon des rapports, le départ de Leike a été motivé par des désaccords constants concernant les mesures de sécurité, les pratiques de surveillance et la priorisation des lancements de produits spectaculaires par rapport aux considérations de sécurité.
Le départ de Leike a ouvert la boîte de Pandore pour l’entreprise d’IA. D’anciens membres du conseil d’administration d’OpenAI ont fait des allégations de mauvais traitements psychologiques à l’encontre du PDG Sam Altman et de la direction de l’entreprise.
Les troubles internes croissants chez OpenAI coïncident avec les préoccupations croissantes à l’égard des risques potentiels posés par la technologie d’IA générative comme les propres modèles linguistiques de l’entreprise. Les critiques ont mis en garde contre la menace existentielle imminente d’une IA avancée dépassant les capacités humaines, ainsi que des risques plus immédiats comme le déplacement d’emplois et la militarisation de l’IA pour des campagnes de désinformation et de manipulation.
En réponse, un groupe d’employés actuels et anciens d’OpenAI, Anthropic, DeepMind et d’autres principales entreprises d’IA ont rédigé une lettre ouverte abordant ces risques.
« Nous sommes des employés actuels et anciens de sociétés d’IA de pointe, et nous croyons au potentiel de la technologie AI pour offrir des bénéfices sans précédent à l’humanité. Nous comprenons également les risques sérieux posés par ces technologies », déclare la lettre.
La lettre, signée par 13 employés et soutenue par les pionniers de l’IA Yoshua Bengio et Geoffrey Hinton, énonce quatre demandes fondamentales visant à protéger les lanceurs d’alerte et à promouvoir une plus grande transparence et responsabilité autour du développement de l’IA :
Les entreprises ne doivent pas imposer de clauses de non-dénigrement ou prendre des représailles contre des employés soulevant des préoccupations liées aux risques. Les entreprises doivent faciliter un processus anonyme vérifiable permettant aux employés de soulever des préoccupations auprès des conseils d’administration, des régulateurs et des experts indépendants. Les entreprises doivent soutenir une culture de critique ouverte et permettre aux employés de partager publiquement des préoccupations liées aux risques, en protégeant adéquatement les secrets commerciaux. Les entreprises ne doivent pas prendre des mesures de représailles contre les employés partageant des informations confidentielles liées aux risques après l’échec des autres processus.
Ces demandes interviennent alors que des rapports indiquent qu’OpenAI a contraint des employés partants à signer des accords de confidentialité les empêchant de critiquer l’entreprise sous peine de perdre leurs actions. Le PDG d’OpenAI, Sam Altman, a admis être « embarrassé » par la situation, mais a affirmé que l’entreprise n’avait en réalité jamais récupéré les actions de départ de qui que ce soit.
Alors que la révolution de l’IA avance inexorablement, les tensions internes et les demandes des lanceurs d’alerte chez OpenAI soulignent les douleurs de croissance et les dilemmes éthiques non résolus entourant la technologie.
Vous souhaitez en savoir plus sur l’IA et les mégadonnées auprès de leaders de l’industrie ? Découvrez l’AI & Big Data Expo qui se tiendra à Amsterdam, en Californie et à Londres. Cet événement complet est co-localisé avec d’autres événements de premier plan, dont la Conférence sur l’automatisation intelligente, BlockX, la semaine de la transformation numérique et les expositions sur la cybersécurité et le cloud.
Explorez d’autres événements et webinaires technologiques d’entreprise à venir proposés par TechForge ici.