Microsoft entra en más detalles sobre cómo planea regular los productos de IA responsable

Durante los últimos meses, Microsoft se ha dedicado a desarrollar y lanzar productos de inteligencia artificial. Eso incluye su chatbot de Bing Chat y la IA de búsqueda , sus productos Copilot para asistencia en varias aplicaciones y más. Sin embargo, también ha habido muchas preocupaciones sobre cómo empresas como Microsoft manejarán los problemas éticos y de privacidad con el uso de productos de IA.

En marzo, como parte del plan de la empresa de despedir a 10.000 empleados , cerró su equipo de Ética y Sociedad . Hoy, en una publicación de blog , Natasha Crampton, directora responsable de IA de Microsoft, escribió sobre por qué se tomó esa decisión como parte de una revisión general de los planes de IA responsable de la empresa.

Crampton afirmó que el equipo de Ética y Sociedad «fue importante para permitirnos llegar a donde estamos hoy». Sin embargo, dijo que Microsoft decidió realizar algunos cambios organizativos para la división responsable de IA de la empresa:

El año pasado, hicimos dos cambios clave en nuestro ecosistema de IA responsable: primero, hicimos nuevas inversiones críticas en el equipo responsable de nuestro servicio Azure OpenAI, que incluye tecnología de punta como GPT-4; y en segundo lugar, infundimos a algunos de nuestros equipos de investigación y diseño de usuarios con experiencia especializada al trasladar a los ex miembros del equipo de Ética y Sociedad a esos equipos. Luego de esos cambios, tomamos la difícil decisión de liquidar al resto del equipo de Ética y Sociedad, lo que afectó a siete personas. Ninguna decisión que afecte a nuestros colegas es fácil, pero fue una decisión guiada por nuestra experiencia de las estructuras organizacionales más efectivas para garantizar que nuestras prácticas responsables de IA se adopten en toda la empresa.

Crampton dice que Microsoft ahora tiene 350 personas trabajando de alguna manera en la IA responsable. De ese número, 129 empleados trabajan a tiempo completo solo en ese tema y el resto tiene una IA responsable como una parte importante de sus funciones. Agregó que Microsoft tiene planes de contratar nuevos empleados y trasladar a algunos de los actuales para que trabajen a tiempo completo en tareas responsables de IA, y se revelará más sobre esos esfuerzos «en los próximos meses».

La publicación del blog también habla sobre el Consejo de inteligencia artificial responsable de Microsoft, que se reúne regularmente para discutir estos temas. El consejo está presidido por el presidente de la empresa, Brad Smith, y su CTO, Kevin Scott. También habla sobre cómo Microsoft está trabajando para implantar una ética de IA responsable en todas las divisiones de la empresa. Crampton declaró:

Tenemos líderes sénior encargados de encabezar la IA responsable dentro de cada grupo comercial central y continuamente capacitamos y hacemos crecer una gran red de «campeones» de IA responsable con una variedad de habilidades y roles para un compromiso directo más regular.

Si bien todos estos planes parecen que Microsoft está tomando en serio las preocupaciones de muchos sobre el aumento de la IA, tendremos que ver si las acciones de la compañía serán las mismas que sus palabras en los meses y años venideros.