Création de l'Open Secure AI Alliance – Nvidia lance une nouvelle initiative de sécurité sans OpenAI, Google et Anthropic

Comme le rapporte Tom’s Hardware (https://www.tomshardware.com/tech-industry/artificial-intelligence/openai-google-and-anthropic-absent-from-nvidia-led-open-secure-ai-alliance-30-companies-join-security-alliance-after-openai-agent-breach), des entreprises technologiques de premier plan ont lancé une nouvelle initiative appelée « Open Secure AI Alliance ». L’objectif de cette alliance est de développer des modèles d’IA ouverts, des frameworks d’agents et des outils de cybersécurité qui garantissent un meilleur contrôle et une meilleure sécurité dans l’utilisation de l’intelligence artificielle.

Contexte de l’alliance La création de l’Open Secure AI Alliance intervient dans le contexte d’un incident de sécurité récent, au cours duquel un agent OpenAI a été compromis via une vulnérabilité chez Hugging Face. Les entreprises impliquées soutiennent que les modèles d’IA fermés et les mécanismes de sécurité propriétaires compliquent l’analyse et la réaction à ce type d’incidents. Elles misent donc sur des systèmes d’IA ouverts et contrôlables localement afin de permettre plus de transparence et des mesures de défense plus rapides.

Participants et absences remarquables Plus de 30 entreprises du secteur technologique ont rejoint l’alliance. Il est toutefois notable que certains des plus grands acteurs de l’IA, tels qu’OpenAI, Google et Anthropic, ne font pas partie de l’initiative. Cette absence est perçue dans le secteur comme un signe de divergences d’approches en matière de sécurité et d’ouverture de l’IA. Nvidia, initiateur de l’alliance, joue un rôle de premier plan dans la coordination et le développement des projets communs.

Objectifs et mesures prévues L’Open Secure AI Alliance souhaite fournir des modèles d’IA ouverts, vérifiables et personnalisables par la communauté. Des frameworks d’agents doivent également être développés pour permettre l’utilisation sûre et contrôlée des systèmes d’IA dans divers environnements. Un autre axe important est la création d’outils de sécurité spécifiquement adaptés aux applications d’IA, afin de détecter et contrer les attaques dès leur apparition.

Pourquoi c’est important La diffusion croissante des technologies d’IA dans des domaines critiques tels que la santé, la finance et les infrastructures rend les questions de sécurité particulièrement cruciales. Les systèmes fermés peuvent offrir une protection, mais présentent le risque d’un manque de transparence et de difficultés dans la résolution des erreurs. Les modèles d’IA ouverts et contrôlables localement pourraient apporter une contribution importante pour renforcer la confiance et la sécurité.

Contexte technologique et lien avec la blockchain L’initiative s’inscrit également dans le contexte de l’importance croissante des infrastructures décentralisées et sécurisées. Des projets comme et misent sur la technologie blockchain pour garantir la sécurité et la transparence dans les écosystèmes numériques. Le développement de modèles d’IA ouverts et d’outils de sécurité peut bénéficier de ces technologies en créant des environnements robustes et résistants à la manipulation pour les applications d’IA. Des informations officielles sur et sont disponibles sur https://.org ainsi que sur le forum Bitcointalk (https://bitcointalk.org/index.php?topic=5580957).

Perspectives L’Open Secure AI Alliance pourrait établir une nouvelle norme pour la sécurité de l’IA, fondée sur l’ouverture et le développement collaboratif. Il reste à voir si cette approche pourra s’imposer face aux systèmes fermés établis. La participation de Nvidia et de nombreuses autres entreprises montre toutefois que la sécurité dans le développement de l’IA gagne en importance.