Por

R. Badillo

Bill Gates ha situado el control de la inteligencia artificial en el centro del debate sobre el futuro de esta tecnología, justo cuando algunas de las principales compañías del sector discuten cómo gestionar sistemas cada vez más avanzados. Durante el encuentro anual Goalkeepers de la Fundación Gates, celebrado en Nueva York, el cofundador de Microsoft abordó uno de los problemas que considera pendientes: cómo conseguir que las decisiones de las IA permanezcan vinculadas a los principios y prioridades de las personas. Su diagnóstico fue directo: “No supimos incorporar los valores humanos adecuados ni las formas de mantener nuestro código moral controlando a las IA”.

La reflexión de Gates surgió durante una conversación con el comentarista político Van Jones, dentro de una cita centrada en la desigualdad, la cooperación internacional y las posibles aplicaciones sociales de la inteligencia artificial. El empresario defendió que una combinación de mayor generosidad por parte de los países ricos y un uso inteligente de la IA podría acelerar determinadas innovaciones destinadas a mejorar la vida de millones de personas. La fundación puso como ejemplos herramientas utilizadas para detectar dificultades de aprendizaje, combatir plagas agrícolas o facilitar el acceso de los profesionales sanitarios al historial de sus pacientes.

El debate llega mientras algunas grandes empresas dedicadas al desarrollo de inteligencia artificial avanzada han reclamado reducir el ritmo de determinados avances ante los riesgos asociados a modelos cada vez más capaces. La posición de la Fundación Gates introduce un matiz diferente: sus responsables consideran necesario regular posibles efectos sobre ámbitos como la ciberseguridad o el desarrollo infantil, pero defienden al mismo tiempo que las aplicaciones humanitarias disponibles continúen desplegándose. Su consejero delegado, Mark Suzman, sostiene que incluso una hipotética paralización del progreso técnico no debería detener los proyectos destinados a extender las herramientas actuales a comunidades que todavía tienen un acceso limitado.

El problema de los idiomas

Uno de los proyectos anunciados durante Goalkeepers intenta corregir precisamente una de las carencias que condicionan el funcionamiento de muchos modelos de IA generativa: la escasa representación de numerosos idiomas y dialectos en los datos utilizados durante el entrenamiento. La Fundación Gates ha impulsado una coalición formada por 60 organizaciones, entre ellas Anthropic, Google y la OpenAI Foundation, con el objetivo de coordinar iniciativas que permitan ampliar los recursos lingüísticos disponibles. La previsión anunciada por la organización es que este trabajo pueda beneficiar a más de 3.000 millones de personas durante los próximos cinco años.

Las consecuencias de utilizar conjuntos de datos poco representativos pueden resultar especialmente relevantes cuando una herramienta de IA se emplea en educación, agricultura o sanidad. La fundación puso como ejemplo el riesgo de que una expresión utilizada por una mujer embarazada en Malawi para indicar que ha roto aguas termine traducida de forma literal e incorrecta al inglés. E.M. Lewis-Jong, consejera delegada de Mozilla Data Collective, relacionó este problema con el origen de buena parte de los datos empleados para entrenar los sistemas actuales, recopilados inicialmente de internet. Según explicó, ese material no constituye una muestra cultural ni lingüística equilibrada de la población mundial.

Parte de la respuesta pasa por recopilar información directamente en las comunidades donde existen esos vacíos. Google, miembro de la nueva coalición, trabaja en el llamado Project Vaani, una iniciativa destinada a reunir más de 150.000 horas de audio procedentes de todos los distritos de India para reflejar también las diferencias entre dialectos. Anthropic reconoce, por su parte, que sus herramientas todavía presentan importantes limitaciones en numerosas lenguas africanas. La Fundación Gates ha comprometido 1.000 millones de dólares a iniciativas relacionadas con inteligencia artificial para salud, educación y agricultura, mientras la discusión planteada por Bill Gates permanece abierta: desarrollar sistemas más útiles exige decidir también qué valores humanos deben orientar su comportamiento.