¿Por qué son tan tontos los robots?

El mundo empieza a cansarse de robots racistas, machistas y xenófobos, y de las promesas infladas de la Inteligencia Artificial.

La poderosa maquinaria de mercadotecnia de las grandes tecnológicas hace aparecer, casi a diario, titulares en los medios que pintan un mundo inexistente. Las máquinas están lejos de parecerse a los humanos y falta mucho para que piensen como nosotros, pero cada máquina anunciada como “inteligente” hace sonar la caja registradora y produce una noticia. Sin embargo, durante el último año los robots sufrieron golpes de imagen suficientemente fuertes para encender las alarmas de lo que el científico británico Michael Wooldridge, de la Universidad de Oxford (Reino Unido) llamó acertadamente “una posible burbuja robótica” a punto de explotar, como ocurrió con la famosa burbuja de las puntocom, dos décadas atrás.

Yoshua Bengio, director del grupo de investigación en aprendizaje profundo del MIT, y una de las autoridades más reconocidas en el campo de la Inteligencia Artificial (IA), afirma que ésta en realidad debería llamarse Estupidez Artificial porque “las máquinas todavía son demasiado tontas y solo estamos intentando que lo sean menos”. Por supuesto, son opiniones independientes de científico que no tienen contratos con la industria y pueden decir las cosas como son.

En marzo del año pasado un accidente automovilístico puso el primer gran dolor de cabeza para la industria de los carros que se conducen solos, cuya fecha de aparición en los mercados ha sido postergada año tras año. En una sesión de pruebas en Tempe, Arizona, un auto de Uber que se conducía solo arrolló a una mujer que cruzó la calle imprudentemente. La razón tuvo que ver con la incapacidad del vehículo de reconocerla como un humano. Ya se sabe que faltan todavía varios hervores antes que esta tecnología esté lista.

En octubre de 2018 Amazon suspendió la utilización de un programa inteligente que revisaba los currículos de aspirantes a diversos cargos en la empresa. Se utilizó esta plataforma desde 2014 y se la consideraba una estupenda herramienta para buscar talentos, hasta que se supo que estaba cargada de prejuicios sexistas: prefería y recomendaba contratar hombres. Los desarrolladores transfirieron a la máquina sus sesgos machistas en el momento en que la entrenaron para analizar las hojas de vida, dado que pusieron en su base de datos de ejemplos, mayoritariamente currículos masculinos. La máquina heredó el prejuicio de los ingenieros.

Y eso confirma que las máquinas sí aprenden. El problema no radica en lo que los robots puedan hacer algún día (que es la ficción creada por Hollywood), sino en lo que los humanos hagan con ellos. Y así como IBM ha invertido presupuestos descomunales para lograr que su poderosa plataforma Watson diagnostique correctamente el cáncer y ayude a enfrentar un serio problema de salud de los humanos, hay empresarios con pretensiones más mundanas. El alcalde de Houston tuvo que suspender en septiembre la licencia para la construcción del primer burdel de robots que inversionistas canadienses habían planeado. Entre tanto, la empresa Megabots realizó su segunda pelea de robots gigantes en una planta metalúrgica abandonada, para darle todo el sabor “Terminator” al burdo espectáculo de máquinas asesinas matándose entre sí.

¿Es ese el mundo robotizado que la sociedad necesita? ¿Plataformas inteligentes como la robot Tay de Microsoft, que fue retirada hace dos años porque defendió el holocausto y ensalzó la figura de Adolfo Hitler? ¿O los robots, actualmente en primeras pruebas, que utilizan algunas compañías financieras para analizar a los solicitantes de créditos, y que prefieren siempre a hombres blancos de entre 30 y 50 años porque sus records de pago con mejores? Entre los muchos – la revista Wired contabilizó 31 – problemas de Facebook en el último par de años, hay uno relacionado con racismo: el algoritmo que gestiona las campañas publicitarias tiende a ignorar como público objetivo del despliegue de anuncios a los usuarios de raza negra. Empresarios afro protestaron y el error, al parecer, fue corregido. En 2015 Google debió corregir el terrible error de su software de etiquetado de fotos, que clasificaba como “gorilas” a las personas de raza negra. ¿De quién aprenden estas cosas las máquinas? Pues de sus creadores, la mayoría de ellos hombres blancos anglosajones de entre 30 y 50 años, pertenecientes a la noble clase media norteamericana.

La connotada científica británica Margaret Boden lo pone en estos términos: “es claro que la Inteligencia Artificial sería otra cosa si hubiera habido más mujeres en el sector”. Ella fue la primera en cuestionar la fiebre japonesa de los robots que acompañan a ancianos en hogares geriátricos, pues considera que no ofrecen la interacción emocional que este tipo de pacientes necesitan.

En el mundo del entretenimiento también ocurre. Los algoritmos tienden a recomendar las películas de mayor aceptación por los usuarios, y éstas suelen ser las de mayor contenido violento o sexual. El público, en este caso, moldea los prejuicios de la máquina. Cuando se deja en manos de un algoritmo la recomendación de películas en Netflix, no se corren demasiados riesgos si aparecen problemas éticos. Pero cuando el algoritmo tiene a cargo otorgar créditos en un banco o las admisiones en una universidad, el tema ético será fundamental.

De hecho, empiezan a florecer los estudios sobre moral de máquina. MIT tienen un curso sobre “Ética y gobernanza de la inteligencia artificial”, en el que se examinan problemas como los sesgos de los algoritmos, la propiedad, control y acceso de las tecnologías de IA y las cuestiones relacionadas con el impacto en el empleo. “La innovación es importante pero no puede ser solo una vía para ganar dinero. Los programadores deben considerar el posible uso indebido de sus creaciones” afirmó Joichi Ito, el célebre director del Media Lab de MIT y creador del curso mencionado.

La connotada científica británica Margaret Boden lo pone en estos términos: “es claro que la Inteligencia Artificial sería otra cosa si hubiera habido más mujeres en el sector”.

Algunos expertos consideran que el problema se origina en los datos, más que en los prejuicios de los desarrolladores. La máquinas que reconocen imágenes y las clasiifican, por ejemplo, aprenden a partir de lo que ven en los grandes bancos de fotos disponibles en Internet. Un informe publicado en Nature encontró que el 45 por ciento de las fotos en uno de estos bancos, proviene de Estados Unidos y contiene mayoritariamente imágenes de gente blanca, a pesar de que Estados Unidos representa solo el 4 por ciento de la población mundial; mientras que China e India, que constituyen una tercera parte los habitantes del planeta, solo aportan tres por ciento de las imágenes en dicho banco.

Y hay todavía dos campos en los que el problema es más preocupante. Uno es el impacto en el empleo, y el otro la maduración de las plataformas inteligentes especializadas en manipular las redes sociales. Hasta hace algo más de un año era posible identificar a simple vista una cuenta falsa, pero estas plataformas han evolucionado y hay robots capaces de gestionar blogs, creando sus contenidos a partir de copiar y pegar de otros blogs, para lucir reales, y pueden poner comentarios en los muros de otras personas sin que se note que se trata de una máquina. La tecnopolítica cuenta hoy con herramientas sofisticadas que ayudan a influir en la opinión pública de un modo nunca antes visto. Durante 2018 crecieron las protestas en contra de plataformas descomunales de cibervigilancia ciudadana, capaces de hacer realidad la más oscura pesadilla orwelliana, como la que se utiliza en China. Y como la que se proponía en Estados Unidos con el Proyecto Maven, que buscaba aplicar IA en escuadrones de drones militares del gobierno norteamericano. Por fortuna, los empleados de Google forzaron a la empresa a retirarse de dicha iniciativa a mediados del año pasado.

No es un asunto de tecnofobia. Las alarmas fueron encendidas por voces autorizadas del mundo de la ciencia, la ingeniería y el desarrollo de plataformas inteligentes, quienes siguen creyendo que las innovaciones de la era digital deberían servir para algo mejor que construir prostíbulos de muñecas robóticas.

Publicado originalmente en revista SEMANA, edición 1914, enero de 2019.

«

»

¿Qué piensas?

Tu dirección de correo electrónico no será publicada.