(blancMocca/Shutterstock)
Comet, le fabricant d’une plate-forme de développement d’apprentissage automatique, a publié un nouveau rapport d’enquête qui a révélé que les praticiens du ML ont actuellement beaucoup à faire.
« State of MLOps Trade Report: 2023 Machine Studying Practitioner Survey » est la deuxième enquête annuelle de l’entreprise sur l’état du ML, menée par À l’échelle du recensement, qui discover les problèmes affectant l’adoption du ML ainsi que la réussite des projets et des initiatives. Les principaux sujets qui ressortent du rapport de cette année incluent la déclaration des droits de l’IA, les préjugés et les défis opérationnels dans un contexte de resserrement des budgets.
Comète Le PDG et co-fondateur Gideon Mendels déclare que les praticiens du ML sont confrontés à une nouvelle réalité avec un ensemble distinctive de défis à venir. Même si les organisations dépensent peut-être moins en raison de l’incertitude économique actuelle, Mendels affirme qu’en raison du potentiel du ML à libérer de la valeur commerciale, les praticiens du ML peuvent être poussés à s’attaquer rapidement à des problèmes plus complexes. Lutter contre les préjugés ou adhérer à la Déclaration des droits de l’IA signifie que les organisations doivent disposer des outils appropriés pour assurer le succès de leurs projets ML, déclare Mendels.
Le Bureau américain de la politique scientifique et technologique de la Maison Blanche a récemment publié son «Plan directeur pour une déclaration des droits de l’IA», un cadre qui énonce cinq principes qui devraient guider la conception, l’utilisation et le déploiement de systèmes automatisés. Bien que ces principes visent à protéger le public américain contre les systèmes dangereux ou inefficaces, les biais de l’IA et les problèmes de confidentialité des données, leurs effets sur les projets d’IA et de ML auront un influence.
(Supply : Comète)
Le rapport de Comet a mesuré la réaction de la communauté ML, constatant que 73% des praticiens conviennent que la Déclaration des droits de l’IA (BOR) devrait être obligatoire par la loi plutôt que facultative. Mendels pense que les professionnels du ML qui ne sont pas d’accord avec le fait de rendre le projet de loi obligatoire peuvent s’inquiéter des étapes supplémentaires et de la gouvernance impliquées qui pourraient encore ralentir le processus déjà lengthy de mise en manufacturing des modèles.
« Bien qu’il semble y avoir un soutien pour le BOR, environ 39 % des individus pensent toujours qu’il entravera leur approche du déploiement et du développement de ML en ralentissant le processus. En termes d’impacts négatifs, près de 37 % pensent que le BOR compliquera le processus de déploiement et de développement de ML, tandis que 35 % pensent qu’il rendra le processus plus coûteux », a déclaré Mendels. Datanami dans un entretien par e-mail.
« Cependant, il y a aussi des impacts positifs, automobile environ 38 % des personnes pensent que le BOR augmentera la sécurité du processus de déploiement et de développement de ML, et un pourcentage similaire (37 %) pense qu’il réduira la probabilité de violations de la vie privée », il a dit. « Enfin, plus de 35 % des individus pensent que le BOR réduira l’apparition de systèmes de ML dangereux ou inefficaces. »
En ce qui concerne les biais dans les produits d’IA, le rapport observe que certains considèrent les biais comme surestimés et que les praticiens du ML sont capables de mettre en œuvre les meilleures pratiques d’atténuation. D’autres pensent que ce sera un problème persistant pour les systèmes d’IA, et le rapport montre que 35 % des personnes interrogées pensent que le BOR réduira la fréquence des systèmes de ML dangereux ou inefficaces. En fait, 38 % ont un level de contact désigné ou une équipe d’help qui recherche les biais lors de la planification de la conception et/ou du lancement d’un produit appropriate avec l’IA. 33 % supplémentaires des répondants ont déclaré que la réduction du risque de biais est l’un des principaux avantages de l’IA explicable.
Plus d’un quart (27 %) des personnes interrogées pensent que les préjugés ne seront jamais vraiment éliminés des produits activés par l’IA, et 8 % supplémentaires ne sont pas sûrs. « Les modèles d’apprentissage automatique actuels dépendent fortement des données pour leur formation. Dans la plupart des scénarios, ces données ne sont pas fraîchement générées et proviennent plutôt de bases de données existantes », explique Mendels. « Cependant, il peut y avoir un biais existant dans ces données en ce qui concerne la manière dont les prêts ont été refusés à certaines sections de la société. L’utilisation de ces données pour former un modèle ne fera que propager le biais existant.
(Supply : Comète)
Mendels dit que bien que les scientifiques des données puissent supprimer manuellement ces données biaisées, le biais pourrait réintégrer le modèle après un déploiement dans le monde réel ou il pourrait apprendre des modèles d’autres fournisseurs. « Par conséquent, il est impératif de valider en permanence les nouvelles données et d’éliminer les biais du modèle. Cependant, malgré ces efforts, il n’est peut-être pas attainable d’éliminer tous les préjugés, et une petite quantité peut encore exister », a-t-il déclaré.
Un autre domaine clé exploré par le rapport est les défis supplémentaires en matière de blanchiment d’argent provoqués par l’état de l’économie. Mendels observe que 100 % des praticiens du ML interrogés ont déclaré que la state of affairs économique aura un influence sur leur entreprise d’une manière ou d’une autre, et les impacts les plus courants auxquels les répondants s’attendent sont les licenciements dans l’équipe approach (40 %), suivis d’un influence sur les budgets (37 % ) et un gel des embauches (36 %).
« En cas de ralentissement économique, les entreprises réduiront l’embauche de nouveaux praticiens du ML. Cela pourrait rendre plus difficile pour les projets de recruter les bons abilities pour travailler à différentes étapes du cycle de vie du ML », a déclaré Mendels. « En conséquence, les scientifiques des données pourraient être obligés de travailler sur la préparation des données ou les MLOps, ce qui n’est pas leur pressure, et ils pourraient se concentrer moins sur la building de bons modèles. Cela exacerbera les défis existants liés au déploiement de bons modèles de ML en manufacturing. »
Les changements de financement pourraient également affecter les efforts de recherche pour les projets ML dans les secteurs académiques et industriels, ainsi que le capital-risque disponible pour les startups, dit Mendels, ce qui pourrait entraîner un ralentissement de l’innovation. Mendels prédit qu’il y aura plus de pression sur les scientifiques des données et les praticiens du ML pour montrer le retour sur investissement en déployant plus de modèles en manufacturing et en montrant une valeur commerciale rapide avec des modèles déjà déployés.
PDG et co-fondateur de Comet, Gideon Mendels. (Supply : Comète)
La possibilité imminente de ces facteurs de stress économiques a conduit 32 % des répondants à dire que l’innovation ralentira en conséquence. L’enquête a également révélé d’autres défis anticipés, notamment la durabilité (41 %), suivie de la rétention (39 %), l’embauche de personnel ayant des connaissances institutionnelles correctes (36 %) et une IA explicable (36 %).
Le rapport de Comet a révélé de nombreuses autres informations. Pour lire l’intégralité du « Rapport sur l’état de l’industrie MLOps : 2023 Machine Studying Practitioner Survey », visitez ce lien.
Comet accueillera une prochaine conférence, Convergence 2023, les 7 et 8 mai. L’événement virtuel comprendra plus de 25 conférences, panels et ateliers animés par d’éminents scientifiques des données.
« Nous avons une excellente gamme de conférenciers divers à travers le matériel et les logiciels, et j’ai également hâte d’entendre les factors de vue des femmes leaders », a déclaré Mendels. « Nous couvrirons une variété de sujets qui plaisent à la fois aux praticiens et aux cooks d’entreprise, (avec des sujets) tels que » Concevoir et opérationnaliser un ML responsable », « Rôle des scientifiques des données à l’ère des GPT et des LLM » et « Knowledge Storytelling ». .’”
Articles connexes:
Approchons-nous de la fin de la modélisation ML ?
Cinq erreurs courantes dans les projets d’IA/ML
Remark savoir si MLOps vaut le coût de votre problème
