Las redes sociales quieren limpiar el desastre que causaron, mediante una mayor moderación de contenidos; pero eso enfurece a los amantes de la polarización y las noticias falsas.

Por Álvaro Montes

La polémica sobre moderación de contenidos en las redes sociales causó un hecho increíble: los ciber activistas de sofá, esos que botan fuego a diario en las apps, estigmatizan y blasfeman contra quien piense diferente, se pusieron del lado de Donald Trump para defender la idea de que cualquier pueda publicar lo que desee en internet. Pero la mayoría de las empresas de tecnología cerró filas en torno a Twitter, cuando etiquetó trinos del presidente Trump que incitaban a la violencia policial contra los manifestantes. Quedan pocas compañías del negocio digital que se opongan a la urgente necesidad de controlar lo que se publica en las redes sociales, y las iniciativas para poner fin a lo peor de internet ganan cada vez mayor respaldo. Lo peor de internet es, lamentablemente, lo más popular: noticias falsas, incitación al odio, al racismo y a la xenofobia, así como virulencia en los discursos políticos y campañas nefastas contra opositores y adversarios, que no pocas veces han desencadenado violencia y asesinatos. Quedan pocos que defiendan el derecho de seguir haciendo estas cosas en las redes sin moderación alguna.

Los acontecimientos ocurridos en Estados Unidos tras las protestas masivas contra la discriminación racial empujaron a Silicon Valley a dar el paso que por años evitó: las tecnológicas tienen una responsabilidad con las sociedades de las que obtienen sus jugosas ganancias y no es sostenible defender la idea de que los usuarios son los únicos responsables de los contenidos que publican. Bajo esa noción, que ha sido la base de su modelo de negocio, las plataformas se entienden a sí mismas como una especie de tarima neutral que no tiene incumbencia en lo que ocurra sobre ella. Suena bonito, pero no funciona realmente así. Los usuarios de las redes creen ser sujetos libres, pero las fuerzas políticas más poderosas del mundo utilizan magistralmente las redes para manipular conciencias, torcer resultados electorales e incitar la polarización. The Wall Street Journal reveló la semana pasada un informe interno que demuestra que Facebook utiliza un algoritmo orientado a potenciar la polarización de ideas entre los usuarios. Allí radica parte de su éxito. “Nuestros algoritmos explotan la atracción del cerebro humano hacia la división”, dice una diapositiva de la presentación de dicho documento. Las revelaciones del diario indican que en un caso de estudio el 64 por ciento de las personas que se unieron a un grupo extremista en Facebook solo lo hicieron porque el algoritmo de la red se lo recomendó.

Adicionalmente, la neutralidad de las redes sociales aplica solo para los contenidos, no para los datos de sus millones de usuarios, con los que las tecnológicas hacen negocios descomunales. El CEO de Facebook, Mark Zuckerberg, es de los pocos que se opone a la decisión de moderar contenidos con mayor rigor que tomaron las demás plataformas. Detrás de su postura parece haber un interés de negocio, porque la campaña electoral de Trump significará una millonaria inversión en publicidad sobre su red, tan grande como la inversión que recibió durante la campaña anterior del presidente, que entre junio y noviembre de 2016 gastó más de 44 millones en casi seis millones de anuncios en Facebook. En la presente campaña, Trump ha gastado 62 millones de dólares, y faltan los meses más importantes de la recta final.

No quiere decir que deba defenderse la censura sobre internet. La confusión radica en que muchas personas no comprenden la diferencia entre internet y las redes sociales. Al igual que en el siglo pasado la gente en Antioquia llamaba “Kolynos” a la crema dental, muchos usuarios digitales creen que Facebook, Twitter o Instagram son toda la internet. Desde hace varios años se había señalado el peligro de que los internautas abandonaran la visita libre a sitios web a través de navegadores y poniendo las URL de cada página, para centrarse en las apps, que son propiedad de las marcas y que privatizan o “secuestran” la experiencia de navegación. La gran mayoría de tuiteros, por ejemplo, se sienten suficientemente informados del acontecer mundial por los titulares de lo que comparten sus contactos en esta app. No visitan los sitios Web de noticias ni navegan internet. Solo ingresan diariamente a su red social favorita, controlada por un algoritmo que ponen en su pantalla lo que cree que cada uno quiere ver.

Internet es un territorio libre y así debe mantenerse, pero las redes sociales son como los centros comerciales en las ciudades, que parecen lugares públicos por el hecho de que son muy visitados, pero en realidad son espacios privados que pertenecen a inversionistas que tienen el control de lo que allí acontece.

Numerosos empleados de Facebook se pronunciaron contra la decisión de su jefe, Mark Zuckerberg, de mantener los brazos cruzados ante las publicaciones de Donald Trump.  “La verificación de hechos no es censura. Etiquetar un llamado a la violencia no es autoritarismo “, escribieron, y agregaron que Facebook no es neutral, y nunca lo ha sido. Lee Bollinger, presidente de la Universidad de Columbia, dijo que el enfoque de no intervenir ha permitido que el acoso y el abuso proliferen. “Existe un mayor riesgo para la democracia al permitir un discurso desenfrenado en estas plataformas privadas”, sostuvo el respetado académico.

Moderar los contenidos, es decir, poner una etiqueta de advertencia cuando un contenido posiblemente viola las reglas de uso de la red, o incluso bloquearlo, ni siquiera es una novedad. Google, Facebook y Youtube lo hacen desde hace mucho, para garantizar que se respetan dichas reglas. El problema es que la revisión de contenidos ha sido encargada a terceros, en modalidad outsourcing, y es realizada por personal que no pertenece a estas empresas, no devengan igual y trabajan demasiadas horas al día, según lo han puesto en evidencia varios reportajes de la prensa norteamericana. La económica maquila de revisión de contenidos inapropiados no ha funcionado bien, por lo que la Universidad de Nueva York pidió la semana pasada a las redes que asuman la moderación de contenidos con personal propio, para asegurar la calidad.

Tampoco funcionó bien la moderación cuando se encargo de ella a los algoritmos. Son conocidos los casos de etiquetas erróneas de “contenido pornográfico” sobre fotos de El David de Miguel Angel, o de la icónica foto de la niña vietnamita que huía desnuda de los ataques con Napalm del ejército norteamericano. Y allí viene el riesgo de la moderación. Grupos de defensores de las libertades digitales temen que un exceso se convierta en censura sobre la oposición. En Colombia cuatro veces han sido llevadas al congreso iniciativas legislativas para censurar la crítica política. Por fortuna no prosperaron, pero sí en otros países. Acaba de ocurrir en Cachemira, y una amenaza similar hizo Donald Trump cuando pidió revisar la ley de decencia de las comunicaciones, que exime a las plataformas de internet de cualquier responsabilidad sobre sus contenidos. No puede hacerlo legalmente y fue más una bravuconada para amenazar a Twitter por etiquetar sus trinos. Pero una revisión de dicha disposición legendaria sería también del interés de editoriales y medios, que sentirían más equilibrada la cancha en cuanto a modelos de negocio. Los medios en todo el mundo están sometidos a responder por lo que publican, mientras las redes sociales se mantienen exentas. Asimismo, las redes aprovechan su condición de “no editores”, para lucrarse de los contenidos que producen tantos los usuarios como los medios de comunicación. En Europa y Norteamérica se da una batalla legal desde hace varios años, en la que los medios y editores exigen a Google un pago justo por los contenidos que enlaza en su buscador.

Las gigantes tecnológicas esta vez tomaron partido. Apple puso diez millones de dólares para apoyar a las ONG que defienden la igualdad racial; Amazon puso otros10 millones de dólares, Google 12, Disney 5 y hasta TikTok aportó 3 millones más. Silicon Valley apoyó las protestas y mostró los dientes al presidente Trump.

Publicado originalmente en revista SEMANA, edición 1989, junio de 2020