Encode rejoint Elon Musk pour bloquer OpenAI

L'avenir d'OpenAI, le célèbre laboratoire d'intelligence artificielle, est aujourd'hui au cœur d'une bataille juridique qui pourrait avoir de profondes répercussions sur le développement futur de l'IA. Elon Musk, co-fondateur initial d'OpenAI, s'oppose au projet de l'organisation de passer d'un statut de recherche à but non lucratif à celui d'entreprise commerciale. Et il vient de recevoir le soutien inattendu de l'ONG Encode dans ce combat.

Encode se joint à l'injonction d'Elon Musk

Vendredi, les avocats d'Encode ont déposé une demande au tribunal fédéral de Californie du Nord pour présenter un mémoire amicus curiae en faveur de l'injonction d'Elon Musk visant à bloquer la transition d'OpenAI vers un modèle à but lucratif. Selon eux, ce changement de statut :

Minerait la mission d'OpenAI de développer et déployer une technologie transformatrice d'une manière sûre et bénéfique pour le public.

– Extrait du mémoire d'Encode

L'IA doit servir l'intérêt public selon Encode

Pour Sneha Revanur, fondatrice d'Encode, si l'humanité est réellement à l'aube d'une ère d'intelligence artificielle générale (AGI), alors il est crucial que cette technologie soit contrôlée par une organisation à but non lucratif, légalement tenue de donner la priorité à la sécurité et à l'intérêt public, plutôt que par une entreprise focalisée sur les profits.

Elle accuse OpenAI "d'internaliser les profits de l'IA mais d'en externaliser les conséquences sur l'humanité". Geoffrey Hinton, pionnier de l'IA et prix Nobel, ainsi que Stuart Russell, professeur à Berkeley, ont également apporté leur soutien à cette démarche.

OpenAI défend sa restructuration

De son côté, OpenAI affirme que les plaintes d'Elon Musk sont "sans fondement" et motivées par le dépit, ce dernier ayant lancé sa propre startup d'IA concurrente, xAI. L'organisation souligne qu'elle conservera une entité à but non lucratif qui détiendra une part de la nouvelle entreprise commerciale, s'assurant ainsi qu'elle respecte sa mission initiale.

Mais pour Encode, ce montage ne garantit en rien que la sécurité de l'IA restera la priorité face aux intérêts des actionnaires. Meta, la maison mère de Facebook et rival d'OpenAI, a également écrit au procureur général de Californie pour s'opposer à cette restructuration aux "implications sismiques pour la Silicon Valley".

Inquiétude croissante sur l'éthique de l'IA

Ce bras de fer juridique intervient alors qu'OpenAI voit partir de nombreux chercheurs de haut niveau, inquiets de la priorité donnée aux produits commerciaux au détriment de la sécurité et de l'éthique. Miles Brundage, ancien responsable des questions politiques chez OpenAI, craint que le volet non-profit ne devienne qu'un "alibi" pour une entreprise fonctionnant comme n'importe quelle autre.

Au final, c'est bien la question de la responsabilité et du contrôle démocratique sur le développement de technologies aussi puissantes et transformatrices que l'IA qui est posée. Si les tribunaux donnent raison à Elon Musk et Encode, cela pourrait créer un précédent important et encourager une approche plus mesurée et éthique. Affaire à suivre de près...