Accroître la confiance dans les services d’IA grâce aux déclarations de conformité des fournisseurs.
"La précision et la fiabilité des algorithmes d’apprentissage automatique constituent une préoccupation importante pour les fournisseurs de services d’intelligence artificielle, mais des considérations au-delà de la précision, telles que la sécurité et la provenance, sont également des éléments critiques pour engendrer la confiance de l'utilisateur. Dans cet article, nous proposons une déclaration de conformité du fournisseur (SDoC) pour les services d’IA afin de renforcer la confiance dans les services d’IA. Un SDoC est un document transparent, normalisé, mais souvent non requis par la loi, utilisé dans de nombreux secteurs et industries pour décrire la lignée d'un produit ainsi que les tests de sécurité et de performance auxquels il a été soumis. Nous envisageons une SDoC pour les services d'IA pour contenir les informations de finalité, de performance, de sécurité, de sécurité et de provenance à remplir et à publier volontairement par les prestataires de services d'IA pour examen par les consommateurs. Ce qui est important, c'est qu'il véhicule le niveau de produit plutôt que le test fonctionnel au niveau du composant. Nous suggérons un ensemble d'éléments de déclaration adaptés à l'IA et fournissons des exemples pour deux services d'IA fictifs.
(...) Les services d'intelligence artificielle (IA), tels que ceux contenant des modèles prédictifs formés par apprentissage automatique, sont de plus en plus des produits clés et des flux de travail décisionnels. Un service est une fonction ou une application accessible par un client via une infrastructure cloud, généralement au moyen d'une interface de programmation d'application (API). Par exemple, un service d'IA peut prendre une forme d'onde audio en entrée et renvoyer une transcription de ce qui a été dit en sortie, avec toute la complexité cachée de l'utilisateur, tous les calculs effectués dans le nuage et tous les modèles par le fournisseur du service."
Texte d'origine :
"The accuracy and reliability of machine learning algorithms are an important concern for suppliers of artificial intelligence (AI) services, but considerations beyond accuracy, such as safety, security, and provenance, are also critical elements to engender consumers’ trust in a service. In this paper, we propose a supplier’s declaration of conformity (SDoC) for AI services to help increase trust in AI services. An SDoC is a transparent, standardized, but often not legally required, document used in many industries and sectors to describe the lineage of a product along with the safety and performance testing it has undergone. We envision an SDoC for AI services to contain purpose, performance, safety, security, and provenance information to be completed and voluntarily released by AI service providers for examination by consumers. Importantly, it conveys productlevel rather than component-level functional testing. We suggest a set of declaration items tailored to AI and provide examples for two fictitious AI services.
(...) Artificial intelligence (AI) services, such as those containing predictive models trained through machine learning, are increasingly key pieces of products and decision-making workflows. A service is a function or application accessed by a customer via a cloud infrastructure, typically by means of an application programming interface (API). For example, an AI service could take an audio waveform as input and return a transcript of what was spoken as output, with all complexity hidden from the user, all computation done in the cloud, and all models used to produce the output pre-trained by the supplier of the service."
