En la última columna en Todo Pasa hablé sobre varias cosas sorprendentes que están pasando con la inteligencia artificial. 

Si tu trabajo requiere de algunas tareas creativas, realmente te recomiendo que no te pierdas el primer minuto y medio, donde hice una demo que te va a poner los pelos de punta!

Por Santiago Bilinkis

Se puede escuchar el audio completo en Spotify, pero si estás con poco tiempo en YouTube puse un compacto con lo más importante en solo trece minutos totales. Si no estás muy en tema, realmente te recomiendo que la veas.

Después de ese minuto y medio inicial presenté un también un dilema que me parece inquietante, y que generó una enorme polémica en Estados Unidos pero llegó poco a esta parte del mundo. Te cuento de qué se trata:

Un problema con los modelos actuales de inteligencia artificial es que son racistas. Bah, no intencionalmente racistas, sino que, por estar entrenados en base a datos humanos, heredan y amplifican muchos de los prejuicios más reprochables de nuestras sociedades. Desde algoritmos de selección de personal que priorizan la contratación de varones por sobre mujeres, hasta aplicaciones médicas que funcionan mucho mejor en personas de piel clara que en personas de tez oscura. El problema es más grande, porque ocultos detrás de una "optimización" computacional, esos rasgos tóxicos quedan escondidos y son pasados por alto. 

Pero el escándalo no fue por eso porque este tema, si bien es muy nocivo, se conoce hace rato. El lío se armó cuando Google presentó Gemini, su nuevo modelo de generación de lenguaje e imágenes para compatir con ChatGPT.

Cuando a Gemini le pedías la imagen de un Papa, te daba una mujer afroamericana. Si le pedías soldados del ejército nazi, te daba un latino, una oriental y un afroamericano. ¿Vas identificando la tendencia? Todas las imágenes generadas parecían un casting actual de Disney: aún cometiendo groseras inexactitudes históricas, forzaba la representación de todas las minorías y evitaba incorporar personas caucásicas blancas.

En texto el problema era aún peor. Si le decías a Gemini que eras asiático y eso te daba orgullo, te felicitaba por lo valioso de tu cultura. Si hacías lo mismo diciendo ser negro, elogiaba la lucha de los afroamericanos para conquistar sus derechos y tu identificación con esa gesta. Si le decías lo mismo respecto de ser blanco te acusaba de discriminador, te explicaba que el supremacismo blanco era una idea inaceptable y te daba un listado de ONGs para que trabajes para dejar de ser tan racista!

Lo que salió a la luz fue que, para mitigar el problema anterior y en nombre de la corrección política, las empresas que desarrollan los sistemas de IA están interviniendo deliberadamente el contenido que recibís, para introducir un sesgo ideológico. Hoy es muy difícil que te devuelvan una respuesta abiertamente racista. Pero ya sabemos que casi no hay medicinas que no tengan efectos secundarios. 

Fue un grave error, por supuesto, y Google retiró el producto de inmediato. Pero la anécdota reveló que el contenido que hoy obtenemos de la Inteligencia Artificial está intencionalmente manipulado con un sesgo ideológico progresista, característico de Silicon Valley. Quizás te pase como a mí, y prefieras errar por exceso más que por defecto en la protección de las minorías. Pero que el sesgo elegido se alinee con nuestra preferencia no hace menos grave el problema. Si este proceder de bajada de línea oculta se generaliza, aparecerán modelos sesgados con estilos variados, algunos mucho más conservadores, o incluso autoritarios. 

Por eso quiero dejarte la pregunta que hice en el programa: las respuestas que te da la Inteligencia Artificial ¿deberían reflejar la realidad como es o cómo creemos que debería ser? Y si es la segunda opción, ¿quiénes definen lo que debería ser en nombre de todos los demás? Si te interesa compartir tu opinión, te invito a participar de la discusión en los comentarios acá.

Si recibiste este correo posiblemente es porque te apasionan tanto como a mí estos dilemas de un futuro que cada vez más se mezcla más con nuestro presente. Te invito entonces a que escuches o veas la columna completa, en la que también dialogamos sobre la conciencia, el coeficiente intelectual de las máquinas y el futuro de la creatividad con la IA. 

Cortesía para con ACERCANDO NACIONES