Meta dévoile le projet Purple Llama pour renforcer la sécurité des modèles d'IA générative

Meta, l'entreprise derrière les réseaux sociaux bien connus, a récemment lancé le projet Purple Llama, une initiative axée sur la création d'outils open source visant à évaluer et renforcer la fiabilité ainsi que la sécurité des modèles d'intelligence artificielle (IA) générative avant leur déploiement public. 

Selon Meta, les défis liés à l'IA nécessitent une approche collaborative, soulignant que la sécurité de l'IA ne peut être garantie de manière isolée. Purple Llama a pour objectif de créer une base commune favorisant le développement d'une IA générative plus sûre. Face aux préoccupations croissantes concernant les grands modèles de langage et d'autres technologies d'IA, Meta cherche à établir des normes communes et à créer un socle de confiance et de sécurité ouvert.

Meta a révélé son engagement en faveur d'un écosystème ouvert pour le développement de l'IA, ce qui signifie qu'elle souhaite faciliter le développement et l'utilisation de modèles d'IA pour tous. Elle travaille avec plusieurs partenaires sur ce projet, notamment AI Alliance, AMD, Google Cloud, Hugging Face (jetons Meta AI récemment exposés), IBM, Microsoft et NVIDIA.

Le projet Purple Llama prévoit des partenariats avec divers acteurs de l'industrie, notamment des développeurs d'IA, des services cloud tels qu'AWS et Google Cloud, des entreprises de semi-conducteurs comme Intel, AMD et Nvidia, ainsi que des fournisseurs de logiciels tels que Microsoft. Cette collaboration vise à stimuler la création d'outils de recherche et d'usage commercial capables de tester les capacités des modèles d'IA, tout en identifiant les risques de sécurité potentiels