Compass Investments

– Les jeunes lecteurs ne s’en souviennent peut-être pas, mais l’informatique en nuage (cloud computing) était autrefois l’avenir. L’avènement de ressources informatiques et de stockage illimitées a été l’une des rares “révolutions” technologiques dignes de ce nom.1 Mais l’ère de l’intelligence artificielle a non seulement rendu obsolète le modèle centralisé de l’informatique en nuage, mais elle comporte également des risques pour les personnes qui l’utilisent et pour l’ensemble des utilisateurs.

Le sommet Consensus 2024 sur l’intelligence artificielle se tiendra à Austin, au Texas, le vendredi 31 septembre.

Si cela vous semble un peu hyperbolique, pensez à une vulnérabilité récemment découverte dans la principale plateforme d’IA en tant que service, Hugging Face. Cette vulnérabilité pourrait permettre à un faux modèle chargé par l’utilisateur d’exécuter un code arbitraire par l’intermédiaire de l’API et d’obtenir plus de contrôle. Heureusement, elle a été découverte à temps et ne semble pas avoir d’impact majeur sur les utilisateurs – les chercheurs notent que de telles vulnérabilités ne sont “pas uniques”.

Le problème ici n’est pas l’intelligence artificielle, mais un modèle X-as-a-Service dépassé et centralisé qui n’incite pas à garantir la sécurité du système ou à développer des applications dont le marché ou les utilisateurs réguliers ont besoin. L’avenir souhaité pour l’IA, qui serait sûre, fiable et, surtout, capable d’utiliser d’énormes ressources informatiques, ne peut être atteint qu’en adoptant les technologies du nuage et une révolution décentralisée.

Des entreprises géantes telles que Microsoft, OpenAI, Google et Amazon dominent le domaine de l’intelligence artificielle car elles disposent d’énormes ressources financières, humaines et informatiques pour soutenir des opérations à grande échelle.

Cette situation a un impact négatif sur le développement de l’intelligence artificielle et va à l’encontre de son potentiel démocratique. Lorsque les algorithmes et les applications sont créés par un petit groupe de développeurs au sein d’une entreprise californienne pesant 1 000 milliards de dollars, ils créent une approche à courte vue, unidimensionnelle et incroyablement subjective des agents d’intelligence artificielle. Cela affecte tout, des services financiers à la créativité….. et même l’interaction humaine.\n Il existe un argument technique tout aussi convaincant en faveur de la monopolisation du marché de l’IA. L’IA doit constamment acquérir de nouvelles données dans le cadre du processus d’apprentissage, y compris auprès d’autres applications d’IA. Cependant, la tendance actuelle à la centralisation à grande échelle de l’IA signifie que les plateformes et les applications restent largement isolées, même dans les modèles open source. Cela bloque l’innovation et laisse la place à des bogues ou à des applications malveillantes qui peuvent provoquer un vertige et avoir des conséquences potentiellement catastrophiques.

En outre, les modèles centralisés comportent des risques énormes et évidents lorsqu’il s’agit de protéger l’identité des utilisateurs, la vie privée et, dans de nombreux cas, les informations financières. Lorsqu’une organisation stocke de grandes quantités de données sensibles et critiques pour l’entreprise, cela représente un point de défaillance unique pour un attaquant, permettant au fournisseur de censurer ou de refuser le service à ses utilisateurs sur la base de décisions arbitraires et incontestées.

En ce qui concerne l’intelligence artificielle, le modèle de l’informatique dématérialisée est une impasse dangereuse. L’intelligence artificielle nécessite une puissance de calcul stupéfiante qui dépasse les capacités des plates-formes centralisées de grande taille et de l’industrie des micropuces qui les fournit. La pénurie de puces est telle que les serveurs H-100 utilisés dans les applications d’IA avancées peuvent rester inactifs pendant 52 semaines.