Microsoft explique plus en détail comment il prévoit de réglementer les produits d’IA responsables

Au cours des derniers mois, Microsoft s’est concentré sur le développement et la commercialisation de produits d’intelligence artificielle. Cela inclut son chatbot Bing Chat et son IA de recherche , ses produits Copilot pour l’assistance dans diverses applications, et plus encore. Cependant, de nombreuses inquiétudes ont également été exprimées quant à la manière dont des entreprises comme Microsoft géreront les problèmes de confidentialité et d’éthique liés à l’utilisation de produits d’IA.

En mars, dans le cadre du plan de licenciement de 10 000 employés , l’entreprise a fermé son équipe Éthique et société . Aujourd’hui, dans un article de blog , Natasha Crampton, directrice de l’IA responsable de Microsoft, a expliqué pourquoi cette décision avait été prise dans le cadre d’un examen global des plans d’IA responsable de l’entreprise.

Crampton a déclaré que l’équipe Éthique et société « était importante pour nous permettre d’arriver là où nous en sommes aujourd’hui. » Cependant, elle a déclaré que Microsoft avait décidé d’apporter quelques changements organisationnels à la division IA responsable de l’entreprise :

L’année dernière, nous avons apporté deux changements clés à notre écosystème d’IA responsable : premièrement, nous avons fait de nouveaux investissements critiques dans l’équipe responsable de notre service Azure OpenAI, qui comprend une technologie de pointe comme GPT-4 ; et deuxièmement, nous avons doté certaines de nos équipes de recherche et de conception d’utilisateurs d’une expertise spécialisée en transférant d’anciens membres de l’équipe Éthique et société dans ces équipes. Suite à ces changements, nous avons pris la difficile décision de dissoudre le reste de l’équipe Éthique & Société, ce qui a touché sept personnes. Aucune décision affectant nos collègues n’est facile, mais elle a été guidée par notre expérience des structures organisationnelles les plus efficaces pour garantir l’adoption de nos pratiques d’IA responsables dans toute l’entreprise.

Crampton dit que Microsoft compte désormais 350 personnes travaillant dans une certaine mesure sur l’IA responsable. De ce nombre, 129 employés travaillent à plein temps sur ce sujet et les autres ont une IA responsable comme une partie importante de leurs tâches. Elle a ajouté que Microsoft prévoyait d’embaucher de nouveaux employés et de déplacer certains employés actuels pour qu’ils travaillent à plein temps sur des tâches responsables en matière d’IA, et d’autres informations seront révélées sur ces efforts « dans les mois à venir ».

Le billet de blog parle également du Responsible AI Council de Microsoft, qui se réunit régulièrement pour discuter de ces sujets. Le conseil est présidé par le président de la société Brad Smith et son CTO Kevin Scott. Il explique également comment Microsoft s’efforce de mettre en place une éthique responsable de l’IA dans toutes les divisions de l’entreprise. Crampton a déclaré :

Nous avons des cadres supérieurs chargés de diriger l’IA responsable au sein de chaque groupe d’activité principal et nous formons et développons en permanence un vaste réseau de « champions » responsables de l’IA avec une gamme de compétences et de rôles pour un engagement plus régulier et direct.

Bien que tous ces plans donnent l’impression que Microsoft prend au sérieux les inquiétudes de beaucoup concernant la montée de l’IA, nous devrons voir si les actions de l’entreprise seront les mêmes que ses paroles dans les mois et les années à venir.