Un estudio dirigido por la Universidad Charles Darwin encuentra que la inteligencia artificial amenaza la dignidad humana a escala global. La investigación indica que la IA está remodelando rápidamente los paisajes legales y éticos al tiempo que socava los valores democráticos y profundiza los sesgos sistémicos en las sociedades occidentales. La Dra. Maria Randazzo, autora principal del estudio y académica de la Facultad de Derecho de CDU, informa que la regulación actual no prioriza los derechos y libertades humanos fundamentales. La investigación identifica la privacidad, la anti -discriminación, la autonomía del usuario y los derechos de propiedad intelectual como áreas donde las protecciones son insuficientes. Esta falla se atribuye principalmente a la naturaleza imposible de rastrear de muchos modelos algorítmicos utilizados en los sistemas de inteligencia artificial. El Dr. Randazzo llama esta falta de transparencia el «problema de la caja negra». Ella explica que las decisiones tomadas a través de los procesos de aprendizaje profundo o de aprendizaje automático son imposibles de rastrear para los humanos. Esta opacidad dificulta que los usuarios determinen si un modelo de IA ha violado sus derechos y dignidad, lo que a su vez obstruye su capacidad para buscar justicia cuando sea necesario. «Este es un problema muy importante que solo empeorará sin una regulación adecuada», dijo el Dr. Randazzo. El estudio sostiene que la IA no es inteligente en un sentido humano. «Es un triunfo en ingeniería, no en el comportamiento cognitivo», dijo el Dr. Randazzo. «No tiene idea de lo que está haciendo o por qué: no hay un proceso de pensamiento como humano lo entendería, solo un reconocimiento de patrones despojado de encarnación, memoria, empatía o sabiduría». Esta distinción subraya la naturaleza mecánica de las operaciones de AI, funcionando sin la comprensión contextual inherente a la cognición humana. Actualmente, los tres poderes digitales dominantes del mundo están tomando diferentes caminos regulatorios. Estados Unidos sigue un modelo centrado en el mercado, China emplea a uno centrado en el estado, y la Unión Europea ha adoptado un enfoque céntrico humano. El Dr. Randazzo identificó el modelo de la UE como el camino preferido para proteger la dignidad humana. Sin embargo, advirtió que sin un compromiso global con el mismo objetivo, incluso ese enfoque avanzado no tiene protección integral. Una advertencia central de la investigación es la necesidad de anclar el desarrollo de la IA a los valores humanos. «A nivel mundial, si no anclamos el desarrollo de la IA a lo que nos hace humanos, nuestra capacidad de elegir, sentir, razonar con cuidado, empatía y compasión, corremos el riesgo de crear sistemas que devaluen y aplasten a la humanidad en puntos de datos, en lugar de mejorar la condición humana», dijo. El Dr. Randazzo enfatizó aún más el imperativo ético, afirmando: «La humanidad no debe ser tratada como un medio para un fin». El documento, titulado «Dignidad humana en la era de la inteligencia artificial: una visión general de los problemas legales y los regímenes regulatorios», se publicó en el Australian Journal of Human Rights. Esta investigación es la primera entrega en una trilogía planificada de obras del Dr. Randazzo sobre el tema.
