Las propuestas para combatir la desinformación electoral en 2024
Eric Schmidt, ex CEO de Google de 2001 a 2011, reflexiona acerca de este ámbito, en un año que ya es catalogado como el de mayor actividad electoral en la historia en el mundo.
El 2024 será un año de cambios políticos. Más de 4.000 millones de personas acudirán a las urnas en países como Estados Unidos, Taiwán, India e Indonesia. Por tanto, 2024 será el mayor año electoral de la historia.
Las campañas electorales utilizan la Inteligencia Artificial (IA) de distintas formas. A principios de 2023, en Estados Unidos, la campaña de Ron DeSantis, gobernador de Florida, para las primarias presidenciales republicanas publicó imágenes trucadas de Donald Trump. El Comité Nacional Republicano publicó un anuncio creado por IA que mostraba un futuro distópico en respuesta al anuncio de Joe Biden para su campaña de reelección. Y en noviembre, los candidatos presidenciales argentinos crearon mucho contenido generado por IA que retrataba al otro partido de forma poco favorecedora.
Esta ola de deepfakes anuncia un nuevo campo de juego político. Según un informe publicado en octubre por Freedom House, en 2022 se utilizó la IA en al menos 16 países para sembrar la duda, difamar a los oponentes o influir en el debate público. Debemos prepararnos para más caos cuando en 2024 se celebren votaciones clave en todo el mundo.
Este año también traerá un cambio de paradigma para las redes sociales. El papel de Facebook y otras empresas ha condicionado nuestra concepción de estas plataformas como "plazas públicas" centralizadas y globales, con un flujo incesante de contenidos y una retroalimentación sin fricciones. Sin embargo, el caos en X (antes conocido como Twitter) y el descenso del uso de Facebook entre la generación Z -junto con el auge de apps como TikTok y Discord- indican que el futuro de las redes sociales puede ser muy diferente. En su afán de crecimiento, las plataformas han adoptado la amplificación de las emociones a través de algoritmos basados en la atención y feeds alimentados por recomendaciones.
Sin embargo, esto resta agencia a los usuarios (que no controlan lo que ven) y, en su lugar, deja conversaciones llenas de odio y discordia, así como una creciente epidemia de problemas de salud mental entre los jóvenes. Eso se aleja de la conversación democratizada de un mundo global con la que soñaban los idealistas hace 15 años. Muchos usuarios se encuentran a la deriva y han perdido la fe en estas plataformas, está claro que maximizar los ingresos ha perjudicado los intereses empresariales.
Ahora que la IA empieza a hacer que las redes sociales sean más tóxicas, las plataformas y los reguladores deben actuar con rapidez para recuperar la confianza de los usuarios y salvaguardar nuestra democracia. A continuación, se proponen enfoques técnicos que las plataformas deberían redoblar para proteger a sus usuarios. La normativa y las leyes desempeñarán un papel crucial a la hora de incentivar u obligar a adoptar muchas de estas medidas. Aunque estas reformas no resolverán todos los problemas de desinformación, pueden frenar la marea antes de las elecciones de 2024.
Verificar a los usuarios humanos. Debemos distinguir a los humanos que utilizan las redes sociales de los bots, y responsabilizar a ambos si infringen leyes o políticas. Esto no significa divulgar identidades. Al igual que nos sentimos seguros para subirnos al coche de un desconocido porque vemos las opiniones de los usuarios y sabemos que Uber ha verificado la identidad del conductor; del mismo modo, las corporaciones de redes sociales deben autenticar al ser humano que hay tras cada cuenta e introducir funciones basadas en la reputación para animar a los usuarios a ganarse la confianza de la comunidad.
Conocer todas las fuentes. Conocer la procedencia del contenido y el momento en que entró en la red puede mejorar la confianza y la seguridad. Como primer paso, el uso de una marca de tiempo y una dirección IP cifrada (no extraíble) garantizaría un punto de origen identificable. Los actores maliciosos y sus feeds -descubribles a través de la cadena de custodia- podrían ser despriorizados o prohibidos en lugar de ser amplificados gracias al algoritmo. Aunque el tráfico VPN puede disuadir la detección, las plataformas pueden redoblar sus esfuerzos para mejorar la identificación de las VPN.
Identificar deepfakes. En consonancia con la orden ejecutiva del presidente Biden sobre IA, que exige al Departamento de Comercio de EE.UU. que elabore directrices para poner marcas de agua a los contenidos generados por IA, las plataformas deben continuar desarrollando herramientas de detección y etiquetado. Para las plataformas, una forma de empezar es escanear una ya existente base de datos de imágenes e indicar al usuario si una imagen no tiene historial. Los sistemas de IA también pueden entrenarse para detectar las firmas de deepfakes, al utilizar grandes conjuntos de imágenes verídicas contrastadas con imágenes etiquetadas como falsas. Este tipo de software puede indicar cuándo una imagen tiene muchas probabilidades de ser un deepfake, de forma similar al aviso de "peligro de spam" que se recibe en el móvil cuando llaman determinados números.
Filtrar a los anunciantes. Las empresas pueden compartir en todas las plataformas una "lista segura" de anunciantes, que incluye a quienes cumplan la legislación aplicable en materia de publicidad y se ajusten a las normas publicitarias de dichas plataformas. Estas también deben intensificar su escrutinio de los anuncios políticos, y añadir advertencias destacadas si se utiliza contenido sintético.
Utilizar a personas físicas para ayudar. Por supuesto, habrá errores, y algunos contenidos poco fiables escaparán a las protecciones. Pero el caso de Wikipedia demuestra que la desinformación puede ser controlada por seres humanos que siguen unas normas de contenido claras y detalladas. Además, las empresas deberían publicar normas de calidad para los contenidos y hacerlas cumplir al equipar más a sus equipos de confianza y seguridad, y aumentar esos equipos al proporcionar herramientas a los voluntarios. Aún queda por ver cómo los humanos harán frente a una avalancha de material generado por IA procedente de chatbots, pero la tarea es menos desalentadora si se despliegan sistemas de IA entrenados para detectar y filtrar este tipo de contenidos. (MIT Technology Review).