Deje de nombrar funciones de IA después de procesos humanos

El último anuncio de Anthropic en su conferencia de desarrolladores ha reavivado una creciente frustración entre los investigadores, especialistas en ética y comentaristas de tecnología de la IA: el persistente hábito de la industria de nombrar las características de la inteligencia artificial con el nombre de procesos cognitivos claramente humanos. La compañía dio a conocer una nueva capacidad que llama "soñar", diseñada para ayudar a los agentes de IA a organizar y clasificar los "recuerdos" almacenados. Si bien la terminología puede parecer intuitiva para los consumidores, representa una tergiversación fundamental de cómo funcionan realmente estos sistemas.

Esta convención de nomenclatura se ha vuelto cada vez más frecuente en la industria de la IA, y las principales empresas adoptan periódicamente un vocabulario que se inspira en gran medida en la neurología y la psicología humanas. Cuando las empresas hablan de "pensar", "aprender", "recordar" y ahora "soñar" con IA, utilizan un lenguaje que conlleva profundas asociaciones con la conciencia, la comprensión y la intencionalidad. Sin embargo, estos términos oscurecen las realidades matemáticas y computacionales que subyacen a estas tecnologías. Los procesos algorítmicos que ocurren dentro de las redes neuronales operan según principios fundamentalmente diferentes a los procesos biológicos con los que se comparan.

El problema va más allá de la mera semántica o de las minucias académicas. Este lenguaje antropomórfico da forma a la forma en que el público entiende y se relaciona con la inteligencia artificial, lo que potencialmente conduce a una sobreestimación de las capacidades y a una confianza fuera de lugar. Cuando una característica se llama "memoria", la gente naturalmente asume que funciona de manera similar a la memoria humana: selectiva, creativa, propensa a ciertos tipos de errores y distorsiones. En realidad, lo que los sistemas de IA almacenan y recuperan son datos transformados mediante operaciones matemáticas, que se parecen poco a la naturaleza asociativa, emocional y contextual de la memoria humana.

Considere el caso específico de la nueva función "soñar" de Anthropic. El término evoca imágenes de un sistema de inteligencia artificial involucrado en algún tipo de procesamiento subconsciente, tal vez consolidando información o resolviendo problemas mientras se encuentra en un estado de reposo, muy parecido a lo que se cree que hacen los cerebros humanos durante el sueño REM. La realidad es considerablemente más técnica: el sistema está realizando procesos computacionales para organizar y agrupar información de manera que la recuperación y el análisis posteriores sean más eficientes. Es un algoritmo de optimización, no el equivalente filosófico de lo que sucede cuando los humanos duermen.

El problema de la terminología se vuelve particularmente grave cuando se considera cómo estos descriptores influyen en las discusiones regulatorias y las políticas públicas. Los formuladores de políticas y los legisladores a menudo carecen de experiencia técnica profunda en desarrollo de IA y aprendizaje automático. Cuando encuentran terminología que sugiere que los sistemas de IA poseen memoria, conciencia o sueños, sin darse cuenta pueden elevar su percepción de la sofisticación y autonomía de la tecnología. Este malentendido puede conducir a marcos regulatorios inadecuados, ya sea demasiado permisivos porque la IA se considera más comprensible y controlable de lo que realmente es, o demasiado restrictivos porque se la considera más peligrosa y sensible de lo que justifica la realidad técnica.

Las grandes empresas de tecnología han empleado esta estrategia durante años, aunque quizás no siempre con intenciones cínicas. A veces es una cuestión de conveniencia: los términos derivados de los humanos ya están integrados en nuestro lenguaje y comprensión. Otras veces, puede haber una creencia genuina de que hacer que las capacidades de IA parezcan identificables ayuda al público a aprovechar su potencial. Pero las buenas intenciones no hacen que la práctica sea menos problemática. Cuando OpenAI habla de que ChatGPT tiene "pensamientos" o cuando Google describe sus algoritmos como "aprendizaje" de los datos, están intercambiando precisión por accesibilidad de una manera que, en última instancia, socava ambas.

Algunos argumentan que la alternativa (usar terminología puramente técnica) haría que la IA fuera más difícil de entender para el público general. Pero esta objeción no tiene sentido. El objetivo no debería ser simplificar mediante metáforas; debería ser explicar con precisión sin ser innecesariamente oscuro. Decir que un sistema de IA "procesa información de manera que identifica patrones y genera resultados estadísticamente probables" es más preciso que decir que "sueña" o "piensa", y no es significativamente más difícil de entender. El problema es que la industria no ha hecho un esfuerzo concertado para desarrollar un lenguaje claro y preciso que también sea accesible.

También hay una dimensión comercial preocupante en esta elección lingüística. Las empresas tienen un gran interés en hacer que sus sistemas de IA suenen impresionantes, intuitivos y casi humanos. El lenguaje antropomórfico sirve para propósitos de marketing: hace que la tecnología parezca más avanzada, más capaz y más digna de inversión. Una característica llamada "soñar" tiene más atractivo para los capitalistas de riesgo y clientes potenciales que una característica descrita como "optimización de la agrupación de datos mediante un refinamiento algorítmico iterativo". La estructura de incentivos fomenta la tergiversación continua.

Las comunidades científica y académica han estado relativamente tranquilas sobre este tema, tal vez porque la terminología es tan omnipresente que resistirse a ella parece inútil. Sin embargo, los académicos que estudian la ética de la inteligencia artificial y la seguridad de la IA han expresado su preocupación sobre cómo el lenguaje antropomórfico afecta la percepción pública y los debates políticos. Existe una responsabilidad que conlleva la introducción de nueva tecnología en el mundo, y parte de esa responsabilidad es comunicar honestamente lo que hace y lo que no hace. El campo de la IA es lo suficientemente joven como para que aún se puedan normalizar mejores convenciones de nomenclatura si la industria se comprometa con ellas.

En el futuro, la industria de la IA necesita desarrollar y adoptar una terminología más clara que describa con precisión la funcionalidad sin depender de analogías cognitivas humanas. Esto podría requerir la colaboración entre tecnólogos, lingüistas, especialistas en ética y expertos en comunicaciones para crear un vocabulario que sea preciso y accesible. Las organizaciones profesionales podrían establecer pautas para la denominación de funciones que desalienten el lenguaje antropomórfico en la documentación oficial y los materiales de marketing. Las iniciativas educativas podrían ayudar a capacitar a periodistas, formuladores de políticas y al público en general para que reconozcan y cuestionen estas opciones lingüísticas.

Hay mucho en juego. A medida que la tecnología de IA se integra cada vez más en sistemas críticos (atención médica, finanzas, justicia penal, seguridad nacional), la comprensión pública de cómo funcionan realmente estos sistemas es de enorme importancia. Comprender mal sus capacidades y limitaciones podría conducir a un despliegue inadecuado, una confianza fuera de lugar o salvaguardias inadecuadas. La terminología que utilizamos para describir la IA no es meramente académica; da forma a cómo la sociedad se relaciona y regula una de las tecnologías más importantes de nuestro tiempo.

Hasta que la industria reconozca y corrija el rumbo sobre este tema, la brecha entre la realidad técnica y la percepción pública seguirá ampliándose. Empresas como Anthropic deberían reconsiderar sus convenciones de nomenclatura de funciones, optando por descripciones que iluminen en lugar de ofuscar. El trabajo de construir sistemas de inteligencia artificial confiables, seguros y bien comprendidos requiere honestidad, y esa honestidad debe comenzar con la forma en que hablamos sobre lo que realmente hacen estos sistemas.