La dictadura del algoritmo

La robotización disparó una carrera mundial por el control del ingrediente clave en la economía de los próximos años. Pero hay un lado oscuro de las máquinas del que la industria no quiere hablar.

El mundo recibe cada día más dosis de automatización y robótica. Los partidos del Mundial son vigilados por el VAR, y cada vez que el balón traspasa la línea de meta, el “ojo de águila” hace vibrar el reloj del árbitro y este sabe que hubo gol. Los chatbots se vuelven cada vez más populares y no queda prácticamente un ser humano atendiendo en los canales de soporte de los bancos, sino que una tal Sofía o una Carla responden – torpemente, hay que decirlo – las consultas desesperadas de los clientes. Y la cosa se pondrá peor. Recientemente el audio de una llamada telefónica entre un robot de Google y una empleada de una peluquería dio la vuelta al mundo. La voz femenina artificial (que sonaba muy humana, y allí se encuentra el avance más notable), reservó una cita para corte de cabello, y la empleada solo se enteró que había conversado con una máquina días después, por las noticias. El audio fue presentado con orgullo por Sundar Pichai, el CEO de Google, para mostrar los beneficios de su nuevo asistente digital Google Duplex, que hace tareas por el usuario cuando éste se encuentra muy ocupado.

Los primeros titulares de la prensa anunciaban que se había aprobado por primera vez el Test de Turing, en el que una máquina logra conversar con un humano sin que éste pueda identificarla. Ha sido por décadas el santo grial de los investigadores en Inteligencia Artificial y la medida aceptada de cuán inteligente puede llegar a ser una máquina. Pero en realidad falta bastante para lograrlo. Hasta ahora, lo más avanzado en procesamiento del lenguaje natural que los consumidores pueden ver es Siri, Alexa y Google Assistant, que entienden mal cinco de cada diez órdenes de voz, especialmente cuando uno tiene prisa, cuando va conduciendo o cuando media botella de vino en el almuerzo impide vocalizar correctamente.

El año pasado, personas lúcidas advirtieron sobre un futuro robotizado, pero fueron tomados con sorna.

Duplex es una tecnología experimental, y no está disponible para uso público; apenas puede hacer eso, reservar mesas y turnos a través de llamadas telefónicas, porque hay bastante trecho antes de construir robots que puedan sostener conversaciones generales, abiertas y naturales. John Hennesy, presidente de la junta directiva de la casa matriz de Google, admitió que la prueba de Turing realmente no fue superada, “pero es un indicio de lo que viene”. Y ya se sabe qué planes tienen con él las empresas: utilizarlo para el mercadeo digital; para vender más. Estas voces serán más económicas que los empleados de los “call centers”, jamás se cansan, no piden vacaciones y aprenden y mejoran su desempeño con cada llamada que realizan, gracias a los nuevos enfoques de “Machine Learning” (aprendizaje de máquina) y Redes Neuronales (una especie de imitación del modelo de funcionamiento del cerebro humano).

En la economía algorítmica los grandes negocios basan su éxito en la explotación de los datos de sus clientes.

Pero hay más titulares vendedores que productos maduros para el consumo masivo. Los carros autónomos, por ejemplo, que ya están rodando de manera experimental en algunas ciudades pequeñas y tranquilas, necesitan todavía varios hervores antes de estar listos para el mercado. En marzo un vehículo de Uber tomó una decisión atroz: atropellar y matar a una dama, no obstante que sus sensores la detectaron. Un caso que resucitó la vieja discusión acerca de la ética de los robots y que dio combustible a MIT y su línea de investigación en “moral de máquinas”. Hace poco, un dispositivo Echo de Amazon, de esos que escuchan todo lo que se habla en casa, grabó una conversación intima de una pareja en Portland, y la envió a personas en la lista de contactos del esposo. Al parecer, confundió ciertas palabras de la conversación con la orden “enviar mensaje” y violó la privacidad de clientes que pagaron 179 dólares por este dispositivo que está ganando popularidad en el mundo.

El año pasado, personas lúcidas advirtieron sobre un futuro robotizado, pero fueron tomados con sorna. Stephen Hawking dijo que temía más a la Inteligencia Artificial que a los agujeros negros; Bill Gates propuso un impuesto a los robots, porque generan desempleo; y Tim Berners Lee, el creador de la Web, preguntó si un robot que administra portafolios de inversiones – y que están en auge en el sector financiero – incluye preocupaciones éticas o ambientales al momento de decidir en dónde pone el dinero, bajo un algoritmo enfocado en obtener la máxima ganancia.

Vivimos bajo el dominio de los algoritmos, que son las secuencias de pasos con los que las máquinas toman decisiones. Un algoritmo de Netflix nos dice qué película queremos ver; uno de Twitter organiza el “timeline” de cada usuario; uno de Google decide qué resultado aparece primero en las búsquedas. Cuando una cámara difumina el fondo en una Selfie, o cuando Waze nos sugiere cierto restaurante en la ruta, un algoritmo acaba de hacer su trabajo. Son “recetas” guardadas por estas empresas con el mayor sigilo, y las grandes tecnológicas están apostando todo al desarrollo de un mundo gobernado por algoritmos. Hay plataformas de IA que ayudan a los médicos a diagnosticar el cáncer, como hace Watson de IBM; pero ¿necesitamos robots que destapen botellas de cerveza por nosotros, u ollas que avisen cuando la sopa está lista?

Una carrera por la IA ha empezado en la economía mundial, en la que corren desde las grandes tecnológicas hasta los países más poderosos, con China y Estados Unidos a la cabeza de la disputa por el control de la llamada economía algorítmica. Y aquí se llega al meollo del afán de Donald Trump por declarar la guerra comercial contra China. El “gigante asiático” es propietario del 22 por ciento de las patentes de la industria de Inteligencia Artificial, y hasta diciembre último, había más de 2.000 compañías chinas trabajando en desarrollos de IA, según reportó oficialmente el ministerio de industria y tecnología informática de ese país.

La Inteligencia Artificial es prioridad en el “Plan quinquenal de informatización”, una de las banderas del presidente Xi Jinping, y mientras las tecnológicas norteamericanas avanzan en procesamiento del lenguaje natural, con sus Siris y Alexas, empresas chinas como Baidu o SenseTime se convierten en las estrellas de moda con avances que tienen sorprendida a la industria mundial. SenseTime, por ejemplo, es famosa por un software que controla los 20 millones de cámaras con las que se vigila a los ciudadanos y es la plataforma de videovigilancia más apreciada en el mundo. Baidu (el Google chino), Alibaba (el Amazon chino), y Tencent, invierten cantidades enormes en desarrollos de Inteligencia Artificial y lideran el negocio de plataformas para los vehículos autónomos, las ciudades inteligentes, Internet de las Cosas y los servicios de salud automatizados, entre otros renglones que se cree serán claves en la economía del futuro cercano.

En la economía algorítmica los grandes negocios basan su éxito en la explotación de los datos de sus clientes. De allí el auge de Big Data e Inteligencia Artificial, porque ahora se dispone de máquinas capaces de procesar descomunales cantidades de información y con ella identificar patrones de consumo y definir estrategias de mercadeo asombrosamente efectivas. Los algoritmos “Page Rank” permitieron a Google hegemonizar el mercado publicitario global. Así que, quien controle los datos, puede controlar los mercados. La entrada en vigor de la ley de protección de datos (GDPR), el pasado 25 de mayo, fue una jugada europea para poner control sobre el negocio de los datos de las empresas más poderosas del momento, que son norteamericanas y asiáticas.

Es fácil verificar que los algoritmos están todavía en pañales en materia ética: el de Facebook censuró “La libertad guiando al pueblo” porque encontró un par de pezones que interpretó como pornografía. Sin embargo, la industria tiene claro que la IA es el camino y confía que en algún momento todas estas deficiencias serán corregidas. Las empresas ya se benefician de los avances en IA, pero los consumidores todavía no.

«

»

¿Qué piensas?

Tu dirección de correo electrónico no será publicada.