Reddit está endureciendo su proceso de verificación para evitar los bots de IA como humanos, el CEO de la compañía, Steve Huffman anunciado los lunes. El movimiento se produce después de un equipo de investigadores liberado Un enjambre de bots con IA en el subreddit «Cambiar mi opinión», publicar más de 1,700 comentarios y adoptar varias personas.
El experimento, que Reddit condenó como «inapropiado y altamente poco ético», destacó los riesgos potenciales de los bots a la IA que se sufra a los humanos en la plataforma. Para mitigar esto, Reddit comenzará a trabajar con servicios de terceros para verificar la humanidad de los usuarios, lo que requiere que algunos usuarios proporcionen información para confirmar que son humanos y, en algunos casos, adultos.
Huffman enfatizó que Reddit no requerirá que los usuarios revelen sus nombres o identidades, afirmando que «el anonimato es esencial para Reddit». La Compañía planea usar empresas externas para proporcionar «información esencial y nada más», y aseguró que continuará protegiendo la información personal de los usuarios y rechazar las demandas excesivas de las autoridades.
Es probable que la decisión sea impulsada en parte por la evolución de los requisitos regulatorios, incluidas las leyes aprobadas en al menos nueve estados y el Reino Unido que exige la verificación de edad para proteger a los niños en las plataformas de redes sociales. Reddit ya toma medidas para prohibir los bots «malos», pero el nuevo proceso de verificación probablemente se utilizará para salvaguardar aún más la plataforma.
Las circunstancias exactas bajo las cuales los usuarios deberán someterse a una verificación no están claras, al igual que los servicios de terceros específicos que se utilizarán. Las plataformas de verificación populares incluyen personalidad, aleación, identidad de rayas, cuadros y huella, que generalmente requieren identificaciones emitidas por el gobierno para verificar la edad y la humanidad. También se pueden considerar tecnologías más nuevas, como el dispositivo «Prueba de humano» de Sam Altman.
Los críticos han expresado preocupaciones sobre los posibles riesgos de privacidad y seguridad de la privacidad y la seguridad asociados con las verificaciones de identificación, particularmente en una plataforma como Reddit, donde los usuarios a menudo comparten experiencias sensibles o personales de forma anónima. Huffman reconoció estas preocupaciones, afirmando que Reddit será «extremadamente protector con su información personal».
