Un juez federal la invalidó menos de dos semanas después de que el gobernador de California, Gavin Newsom, firmara su nueva ley sobre falsificación de IA. La AB 2839 tenía como objetivo detener la propagación de deepfakes políticamente criticados, incluido el video generado por inteligencia artificial de la vicepresidenta Kamala Harris redistribuido por Elon Musk. El fallo judicial de que la ley probablemente viola las protecciones de la Primera Enmienda es un golpe a los esfuerzos de California por utilizar la inteligencia artificial para combatir la información errónea sobre las elecciones.
El mes pasado, la ley AB 2839, promulgada, tenía como objetivo responsabilizar a las personas por la difusión de deepfakes políticamente engañosos que podrían engañar a los votantes. No controló las plataformas de redes sociales, pero permitió a los jueces ordenar a las personas que eliminaran contenido que ellos mismos habían escrito, generado por inteligencia artificial. Esto se produjo tras las crecientes preocupaciones sobre el aumento de la desinformación política generada por la IA, una preocupación importante de cara a las próximas elecciones.
El deepfake viral de Kamala Harris y sus implicaciones
La demanda que impugna la ley fue presentada por el YouTuber Christopher Kohls, conocido en línea como “Mr Reagan”, quien publicó el video de Kamala Harris manipulado por IA. El deepfake fue defendido por su equipo legal, que argumentó que la Primera Enmienda era una sátira política. El juez de distrito estadounidense John Méndez estuvo de acuerdo y emitió una orden judicial preliminar bloqueando la aplicación de la ley. Méndez dijo que la ley era demasiado amplia y que fácilmente se podía abusar de ella para aplastar discursos protegidos constitucionalmente como la sátira y la parodia.
«Casi cualquier contenido alterado digitalmente, cuando se deja en manos de un individuo arbitrario en Internet, podría considerarse dañino».
afirmó Méndez. Dijo que la ley empleaba un lenguaje amplio y subjetivo que ponía en peligro la libertad de expresión. Si bien el estado tiene interés en la integridad electoral, dijo Méndez, esta ley, tal como está escrita, infringe injustamente la expresión política protegida por la Primera Enmienda.
Poco después del fallo judicial del 12 de diciembre, Elon Muskque se había burlado de la nueva ley después de publicar el tweet deepfake de Harris, tuiteó en X (anteriormente Twitter): «El tribunal clausura la ley inconstitucional de California que invade su libertad de expresión». ¡Hurra!» Su publicación se ha vuelto viral desde entonces, y la lucha en línea sobre el entremedio no ha hecho más que intensificarse aún más en torno al equilibrio entre la libertad de expresión y la regulación del contenido generado por IA.
Como aquella vez que Streisand demandó a alguien por revelar su dirección súper obvia en Malibú. Eso realmente lo mantuvo bajo control, lmao. https://t.co/Av5CDlRtJ4
– Elon Musk (@elonmusk) 18 de septiembre de 2024
La orden judicial preliminar es temporal y no está claro si ese tipo de bloqueo durará. La Oficina del Gobernador Newsom expresó que el estado confía en poder regular los deepfakes de IA en el futuro. Un portavoz defendió la ley diciendo: «Confiamos en que los tribunales defenderán la capacidad del estado para regular este tipo de deepfakes peligrosos y engañosos y, al mismo tiempo, garantizarán que estos derechos de libertad de expresión puedan seguir existiendo».
El fallo en sí enfatiza el amor por el movimiento entre la nueva tecnología de inteligencia artificial y las salvaguardias constitucionales consagradas, a medida que las falsificaciones se vuelven cada vez más inteligentes y más difíciles de diferenciar. El resultado de esta batalla legal podría determinar la forma en que los estados regulan el contenido generado por IA en el período previo a las elecciones.
Crédito de imagen destacada: Emre Çıtak/Ideograma IA
