Innodata lance une boîte à outils open source pour l'évaluation de la sécurité LLM

Innodata Inc. (NASDAQ :INOD), un pionnier de l'ingénierie des données, a annoncé la publication d'une boîte à outils d'évaluation LLM open source et de 14 ensembles de données d'évaluation le 25 avril 2024. Conçus pour une utilisation en entreprise, ces outils visent à améliorer l'évaluation de la sécurité des Modèles linguistiques étendus (LLM) en permettant des tests simultanés sur diverses catégories de préjudices.

La boîte à outils facilite l’identification des conditions d’entrée spécifiques qui produisent des sorties nuisibles. Cela permettra aux développeurs de mieux comprendre et d’ajuster leurs systèmes d’IA pour répondre aux normes de sécurité prévues. Innodata a rendu ces ressources disponibles sur GitHub, encourageant leur utilisation immédiate par les entreprises et prévoit de proposer une version commerciale plus tard cette année.

Parallèlement, Innodata a également publié un document de recherche détaillant ses méthodes d'analyse comparative des LLM par rapport à des critères tels que la factualité, la toxicité, les biais et les tendances aux hallucinations. Les cas d'utilisation importants incluent des évaluations sur des modèles tels que Llama2 et GPT. Cette initiative fait partie des efforts plus larges d'Innodata depuis le quatrième trimestre 2023 pour travailler sur la confiance et la sécurité des grandes entreprises technologiques, avec plusieurs nouveaux engagements au premier trimestre 2024 soulignant l'accent mis par l'industrie sur le développement responsable de l'IA.