Entonces, su amigable AI del vecindario, Chatgpt, decidió que necesita un mejor recuerdo. No solo algunas notas adhesivas sobre su preferencia por correos electrónicos concisos o el hecho de que está ligeramente aterrorizado por las palomas. Oh, no. Estamos hablando de un retiro total. Cada chat, cada consulta, cada murmullo digital que haya compartido con él ahora se puede recordar. Operai, los arquitectos de este elefante digital, anunciaron esto con el tipo de fanfarria generalmente reservada para un nuevo teléfono inteligente, una característica que «amarás o realmente odiarás».
Qué maravillosamente binario.
Esto es grande. Antes, podría seleccionar una pequeña lista de «hechos aprobados». Lindo, controlable. ¿Ahora? Si voltea el Switch (y se está implementando a los usuarios de PLUS y Pro, aunque Europa y otras regiones están recibiendo un respiro debido a esas molestas regulaciones de privacidad), ChatGPT sorbe de la manga de fuego de toda su historia de conversación. La promesa? Una IA que realmente te «consigue», ofreciendo continuidad, un amigo digital que recuerda que oscurece la novela de ciencia ficción que mencionaste hace tres meses. La conveniencia es seductora, ¿no? Una mente que recuerda todo lo que le has dicho, sin el fracaso humano de, bueno, olvidar.
Pero aquí está el pateador, la pequeña picazón en el fondo de tu mente que comienza a gritar si escuchas atentamente. ¿Esta nueva y expansiva memoria del historial de chat? No puedes revisarlo. No puedes editarlo. No puede verse selectivamente esa pregunta vergonzosa que hizo a las 3 am. Es un acuerdo de todo o nada: la IA recuerda todo, o vuelves a una versión más amnésica, o tienes incógnito de «chat temporal» completo. Es un progreso, dicen. Más útil, más personal. Y, como ellos mismos admiten, para algunos, «más inquietantes». ¿No dices?
Entonces, ¿a quién se ocupa de su fantasma digital en la máquina?
Hagamos y reflexionemos a esta parte «inquietante». ChatGPT siempre ha almacenado registros de chat en los servidores de Openai. Eso no es nuevo. Lo nuevo es la minería explícita y activa de estos registros integrales para dar forma a las interacciones futuras de manera que usted, el usuario, no puede auditar o afinar fácilmente. Una cosa es que una plataforma mantenga sus datos; Es otro que construir un modelo cada vez más matizado, pero opaco. de ti A partir de esos datos, un modelo que luego dicta su comportamiento hacia usted.
Y las palancas para controlar cómo se construye y utiliza esta persona son … limitadas. Puede apagar todo el sistema de memoria, seguro. Pero si desea la conveniencia, aparentemente entrega una gran parte de control. ¿Es esta la compensación inevitable? ¿Es este el precio de una IA verdaderamente personalizada? ¿O es una opción de diseño, una que prioriza la perfección sobre la agencia de usuarios granulares?
Si una IA «te conoce» esto íntimamente, ¿quién realmente posee ese conocimiento? Usted, ¿quién proporcionó la materia prima o la compañía que alberga los datos y capacita los algoritmos? Se siente menos como una herramienta que ejerce y más como un sistema que está sutilmente, constantemente aprendiendo a manejarlo.
Mientras tanto, en el extenso bazar de apertura …
Pasemos a una parte diferente del bosque digital, donde la filosofía trata menos sobre jardines amurallados y más sobre, bueno, llanuras abiertas. Estoy hablando del mundo del código abierto, y específicamente una organización como la Fundación Linux. Para muchos, el nombre «Linux» evoca imágenes de técnicos hardcore y salas de servidores. ¿Pero la Fundación Linux de hoy? Es un paraguas en expansión, una «base de cimientos» como algunos lo llaman. Es mucho más que solo Linux.
Jim Zemlin, el capitán de este barco de larga data de este barco, habla sobre un «enfoque de cartera» en su conversación con TechCrunch. Se trata de fomentar un ecosistema diverso de proyectos, desde infraestructura en la nube y billeteras digitales hasta, sí, inteligencia artificial. Lo que la Fundación Linux se dio cuenta desde el principio es que la tecnología no se queda quietos; Se transforma, se cruza. Para mantenerse relevantes, para proporcionar un valor duradero, necesitaban adoptar este flujo.
¿Qué significa este «enfoque de cartera» en la práctica? Significa recursos compartidos. Imagine un cofre de experiencia colectivo de guerra: abogados que entienden los derechos de autor y las patentes, especialistas en privacidad de datos y ciberseguridad, gurús en marketing y organización de eventos. En lugar de que cada proyecto de código abierto individual tenga que reinventar solo las batallas regulatorias de la rueda o la lucha (piense en la Ley de AI de la UE o la Ley de Resiliencia Cibernética), pueden aprovechar este depósito central. Esto es crucial: Se trata de permitir la innovación eliminando el esfuerzo duplicado y proporcionando una estructura de soporte.
Esto nos lleva al «factor AI de código abierto». La IA, más que quizás cualquier software anterior, ha empujado el concepto de «código abierto» en el debate convencional, a menudo envuelto en controversia. ¿Qué significa «abierto» incluso cuando hablamos de estos modelos complejos y hambrientos de datos? ¿Se trata solo de acceso al código fuente? ¿Qué pasa con los vastos conjuntos de datos utilizados para el entrenamiento o los parámetros del modelo en sí?
La Fundación Linux, hogar de la LF AI & Data Foundation, no está evitando estas preguntas espinosas. Incluso publicaron algo llamado el Marco de apertura del modelo (MOF), un intento de traer una clasificación más matizada y de niveles múltiples a los modelos de IA basados en su «integridad y apertura». Es un reconocimiento de que «abierto» no es una simple propuesta de sí/no en la IA. El propio Zemlin señala que las personas en la comunidad de IA, una iglesia más amplia que la ingeniería de software tradicional, quieren «previsibilidad y transparencia y comprensión de lo que realmente están obteniendo y usando».
¿Suena familiar? ¿No es eso precisamente lo que se siente … faltando … cuando la nueva función de memoria de ChatGPT ofrece un enfoque para llevarlo o dejarlo para todo su pasado conversacional? El espíritu de código abierto, en su mejor momento, se esfuerza por esa previsibilidad y transparencia.
No siempre es perfecto, no siempre ordenado, pero el impulso está ahí.
¿Podemos tener nuestro pastel personalizado y controlarlo también?
¿Puede el modelo colaborativo, de piscoltificación de recursos y de búsqueda de transparencia del mundo de código abierto, como lo demuestra la Fundación Linux, ofrecer cualquier inspiración para los gigantes propietarios? ¿Puede empujarlos hacia un control más centrado en el usuario, incluso si sus modelos centrales siguen siendo secretos estrechamente guardados?
Tal vez.
Imagínese si, inspirado en el espíritu del enfoque escalonado de MOF para la apertura, los sistemas de IA patentados ofrecían a los usuarios un tablero. No solo un interruptor de encendido/apagado para la memoria, sino una forma de ver qué conversaciones pasadas influyen más en las respuestas actuales. O herramientas para reducir ciertos temas, o incluso «olvidar» interacciones específicas sin anular toda la memoria. Esto no requeriría una fuente abierta todo el modelo, pero requeriría un cambio filosófico para otorgar a los usuarios más información y agencia.
¿O es solo una ilusión?
¿La verdadera agencia de usuarios en la era de la IA depende fundamentalmente de la capacidad de inspeccionar, modificar y comprender el sistema en un nivel más profundo, algo que, casi por definición, apunta a los modelos de código abierto? Si la IA es una caja negra¿Alguna vez estás realmente en control, no importa cuán conveniente sea?
La Fundación Linux, en su expansión global, ha establecido entidades regionales como Linux Foundation Europe. Las naciones quieren un grado de control, sobre la infraestructura digital crítica que sustenta sus sociedades. Es un paralelo fascinante. Si los países están preocupados por la soberanía digital a escala macro, ¿no deberían los individuos preocuparse por su propia «soberanía de datos», especialmente cuando se trata de una IA que está construyendo efectivamente un segundo cerebro basado en sus pensamientos y expresiones íntimas?
El «enfoque de cartera» Zemlin Champions permite a la Fundación Linux satisfacer una amplia gama de necesidades y contextos. ¿Podríamos, los usuarios de la IA, exigir una «cartera» similar de control sobre cómo se utilizan nuestros datos para que estos sistemas nos «conozcan»?
En este momento, con características como la memoria mejorada de ChatGPT, la elección a menudo se siente marcada: inmensa conveniencia junto con procesos opacos o renunciar a la conveniencia de una apariencia de control. Es un instrumento contundente, un interruptor «encendido o apagado» para algo increíblemente matizado: su propia historia, sus propios pensamientos en evolución.
El mundo de código abierto, a pesar de todas sus complejidades a veces desordenadas, a menudo ofrece más botones, más diales, más tenedores en el camino. Está arraigado en la idea de que los usuarios (o al menos, comunidades de usuarios y desarrolladores) deben tener el poder de dar forma a sus herramientas.
¿Queremos una relación de confianza ciega en una caja negra útil pero inescrutable? ¿O nos esforzamos por uno construido en términos más transparentes, comprensibles y, en última instancia, más controlables?
La conversación, al igual que nuestras historias de chat, recién está comenzando.
