Los dilemas de ChatGPT

La inteligencia artificial generativa, el último grito de la moda en tecnología, podría cambiar la historia de la civilización, o tal vez es una burbuja más, que se desinflará como el metaverso o la Web3.

Por Álvaro Montes

La industria quiere que encarguemos a una plataforma inteligente la creación de contenidos, tal como ordenamos pollo asado con papas fritas en Rappi. Quiero una ilustración de un paisaje en estilo impresionista y ¡zaz! Midjourney me regala una que parece creada con los pinceles del mismísimo Monet. Quiero un ensayo sobre el impacto que tuvieron las vacunas en la contención de la pandemia de Covid-19 y ¡listo! ChatGPT me entrega uno muy bueno. En el futuro no necesitaremos pensar, imaginar ni investigar, porque los ingenieros de Silicon Valley se encargarán de liberarnos de esas tontas facultades humanas.

Hay un problema con eso. Midjourney utiliza ideas creativas de artistas de carne y hueso, sin consultarles y sin pagar los debidos derechos de uso. Y ChatGPT escribe textos que lucen como escritos por humanos, pero incluyen verdades y falsedades en sus párrafos, sin distinguir lo uno de lo otro, porque no tiene idea de lo que está haciendo. Es un algoritmo que extrae información de esa enorme base de datos tóxica que es Internet, en la que acerca de las vacunas hay textos publicados por los movimientos anti vacuna, por terraplanistas y esotéricos, que las atacan con furia; y por los laboratorios que las fabrican, las venden y las defienden a toda costa; y por científicos y pseudocientíficos. Chat GPT toma todo eso – no puede discernir entre el bien y el mal – y confecciona un coctel de párrafos más o menos bien redactados que tiene felices a millones de personas por estos días.

La llamada Inteligencia Artificial generativa está en la cresta de la ola tecnológica mundial. Para crear contenidos de texto a imagen están Dall-E. Midjourney, Stable Difussion, Jasper y otras plataformas. Para crearlos de texto a video Fliki, Meta AI, Google AI. Para evitar la tediosa tarea de programación computacional están GitHub Copilot, replit Generate code, Express Design de Microsoft y AI Developer Assistance. Ya está disponible Valle-E, capaz de imitar voces mejor que Jhovanoty, y para renovar la imagen en la cuenta de usuario en las redes sociales está LensaAI. La lista crece diariamente, y ya pululan en Linkedin los expertos que prometen a las empresas consultoría para que dupliquen sus ingresos utilizando estas cosas.

La IA generativa no es, para nada, lo que buscaban Allen Newell, Herbert Simon o Marvin Minsky, padres de la investigación en Inteligencia Artificial por allá en los años sesenta. Ni se parece a las plataformas de machine learning que actualmente se utilizan con probado éxito en los negocios, ni a los robots que trabajan en la industria. La compañía OpenAI, creadora de ChatGPT ha dicho que de momento esta plataforma es solo una “prueba de investigación”. Ellos mismos son más cautelosos que los evangelistas tecnológicos de Linkedin y Twitter que aplauden cualquier cosa que salga de Silicon Valley sin que se haya examinado su impacto.

En el transcurso de los siguientes meses tendremos atisbos mejores acerca del impacto de la Inteligencia Artificial generativa, y se pondrá al rojo vivo la discusión sobre si es el mejor de los mundos posibles uno en el que las personas renuncian a la creatividad y el ingenioDesde luego, se trata del salto más importante en la investigación sobre inteligencia de máquina en la última década: algoritmos capaces de crear contenidos similares a los que produce la mente humana, y prácticamente indistinguibles, tal como proponía Alan Turing en su famoso test para graduar de inteligente a un robot. Y aunque solo lo hacen si un homo sapiens lo pide mediante un texto, hay expertos que predicen una nueva era en la historia de la civilización. Podría ser. O quizás, podría terminar en una burbuja tecnológica más, que se desinflará en algún momento, como el metaverso o la Web3.

Esta vez las voces de preocupación frente a la innovadora tecnología saltaron más rápidamente que cuando aparecieron, por ejemplo, las redes sociales. Artistas visuales se rebelaron contra el uso no autorizado de sus creaciones por parte de Stable Diffusion; activistas feministas protestan por los sesgos de género en los avatares de LensaAI; docentes universitarios temen que ChatGPT arruine la formación profesional, y Europa ya decidió que impondrá severas restricciones al producto de moda en tecnología. Pedir imágenes y textos a una plataforma inteligente no parece ser tan buena idea de momento, hasta tanto no se resuelvan los dilemas éticos y regulatorios que ha provocado.

Las preocupaciones

En lo que se conoce como el Test de Turing, el matemático británico propuso que una máquina pudiese ser considerada inteligente si logra engañar a una persona haciéndole creer que habla con un humano. Pues ChatGPT lo logró y los profesores tienen los nervios de punta. En las universidades y colegios crece el número de estudiantes que simplemente encargaron a esta plataforma la redacción de las tareas. Ni siquiera la poderosa Turnitin, la app que revisa plagio y “copialina” en los colegios, es capaz todavía de identificar si un ensayo fue producido por ChatGPT. The New York Times reportó que los profesores universitarios del Estado de Nueva York rediseñaron sus estrategias de evaluación hacia los exámenes orales presenciales, los trabajos en grupos y la presentación de tareas escritas a mano, en vista que el ensayo universitario ha perdido utilidad.

Los artistas empiezan a protestar. Una cosa es el algoritmo puesto al servicio de la creación estética, una tendencia en auge, en el campo conocido como arte con inteligencia artificial, y otra es que cualquier ciudadano pida una obra por encargo a una plataforma y obtenga una imagen que se nutrió del trabajo de artistas que jamás dieron permiso para el uso de su trabajo por parte de algoritmos. Porque no es que Midjoruney saque de la manga una imagen absolutamente original, sino que elabora variaciones y una especie de bricolaje digital a partir de las imágenes de las que se alimenta en Internet.

Las obras generadas por estas plataformas se convirtieron en una pesadilla para los creadores visuales. Los algoritmos fueron alimentados con millones de piezas creadas por humanos y ahora arroja nuevas piezas a partir de esa base. Expertos lo califican de una máquina lavadora de propiedad intelectual, y varios artistas pidieron expresamente a los creadores de Stable Diffusion que elimine sus trabajos originales de la base de datos. Varias comunidades de creadores de contenido comenzaron una cruzada, entre ellas Getty, ArtStation, NewGrounds, Fur Affinity, entre otras. Esta última, una plataforma dedicada a promover el estilo “furry fandom”, una tendencia estética del mundo del comic y la animación escribió en su página un argumento claro y sencillo: “Nuestro objetivo es apoyar a los artistas y su contenido. No creemos que sea lo mejor para nuestra comunidad permitir contenido generado por IA en el sitio“.

Los sesgos étnicos y de género volvieron a la mesa de conversación una vez que LensaAI, la app para crear avatares para las cuentas en las redes sociales alcanzó su auge en diciembre pasado. A partir de una fotografía suministrada por cada usuario, LensaAI crea una versión tipo comic, que resulta refrescante para renovar la imagen personal en Instagram. El problema es que LensaAI repite los estereotipos sociales que ha costado tanto erradicar. A los hombres los recrea en versión musculosa y viril y a las mujeres las hace tetonas y curvilíneas. Hay protestas por la sexualización no consentida de la imagen femenina. La plataforma inteligente aprendió estos sesgos de la base de datos de la que se nutre, que no es otra que la Internet repleta de fotos así.

Europa, volcada hacia la regulación sobre los efectos nocivos de algunas tecnologías de alcance masivo, ya anunció que protegerá en primer lugar los derechos de propiedad intelectual, y establecerá restricciones sobre suelo europeo a las tecnologías generativas, tal como hace sobre las redes sociales o el marketing digital.

Hay entusiastas acríticos – miembros voluntarios del comité de aplausos de las big tech –  que interpretan estas preocupaciones como simple resistencia al cambio en sociedades conservadoras y despachan la discusión sobre los desafíos éticos o los problemas regulatorios como puro miedo a lo nuevo por parte de la opinión pública.

Un modelo de negocio ya se consolida alrededor de estos experimentos de IA generativa. Los fondos de inversión de riesgo pusieron 2 billones de dólares el año pasado en las startup que desarrollan estas plataformas y OpenAI, las más sonada de ellas en 2022, alcanzó un valor de mercado de 29,000 millones de dólares. Microsoft anunció la semana pasada que invertirá 10.000 millones de dólares en OpenAI (ya había invertido inicialmente mil millones cuando se fundó esta empresa), y planea integrar ChatGPT en sus populares aplicaciones Office y en su buscador Bing, con lo cual podría por primera vez convertirse en rival serio de Google en el negocio de las búsquedas en línea. Un reportaje de TechCrunch consultó a 35 inversionistas de capital de riesgo y encontró que muchos de ellos creen que el boom actual de las tecnologías generativas podría ser una burbuja. Ninguno duda del potencial de estas tecnologías, pero estiman que las recién creadas empresas que ofrecen productos y servicios no tienen modelo de negocio sostenible y la mayoría de ellas podrían desaparecer en el corto plazo, porque están aplicando esta tecnología en casos de uso incorrectos.

En el transcurso de los siguientes meses tendremos atisbos mejores acerca del impacto de la Inteligencia Artificial generativa, y se pondrá al rojo vivo la discusión sobre si es el mejor de los mundos posibles uno en el que las personas renuncian a la creatividad y el ingenio, y encargan la creación de contenidos a las plataformas que aprenden a partir de lo que encuentran en Internet.

«

»

¿Qué piensas?

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *