Anthropic lanza un nuevo grupo de expertos en medio de la lucha por la lista negra del Pentágono

Antrópico, en medio de semanas conflicto con el Pentágono, lo que resultó en un lista negra y una demanda, está sacudiendo su C-suite y iniciativas de investigación. La compañía anunció el miércoles que está lanzando un nuevo think tank interno, llamado Anthropic Institute, que combina tres de los equipos de investigación actuales de Anthropic. Se centrará en investigar las implicaciones a gran escala de la IA, como "qué sucede con los empleos y las economías, si la IA nos hace más seguros o introduce nuevos peligros, cómo sus valores podrían moldear los nuestros y si podemos mantener el control", según la empresa.

El nuevo instituto estará dirigido por Dario Amodei, ex director de investigación de IA de Anthropic, quien actuará como director del instituto. Evan Hubinger, ex investigador científico de Anthropic, será el subdirector del instituto. El instituto también incorporará los equipos de ética y seguridad de IA existentes de Anthropic, así como sus esfuerzos de investigación sobre el "impacto de la IA a largo plazo".

La decisión de Anthropic de crear el nuevo instituto se produce en medio de tensiones constantes con el Pentágono por la negativa de la empresa a trabajar en proyectos de IA para el ejército estadounidense. En junio, el Pentágono colocó a Anthropic en una lista negra, restringiendo el acceso de la empresa a contratos y recursos gubernamentales. Posteriormente, Anthropic presentó una demanda, argumentando que la inclusión en la lista negra era inconstitucional y amenazaba la supervivencia de la empresa.

El lanzamiento del Anthropic Institute subraya el compromiso de la empresa con la investigación de IA y su deseo de dar forma al futuro de la tecnología. Al reunir a sus diversos equipos centrados en la IA bajo un mismo techo, Anthropic pretende profundizar su comprensión de las implicaciones más amplias del desarrollo de la IA y potencialmente influir en el discurso público sobre este tema crítico.

"El Instituto Antrópico será un centro para que pensemos profundamente sobre las implicaciones a largo plazo de la IA y cómo dar forma a su desarrollo en una dirección positiva", dijo Dario Amodei, director del instituto. "Queremos explorar los desafíos sociales, económicos y éticos que plantea la IA a medida que se vuelve más poderosa y ubicua".

La agenda de investigación del instituto probablemente abordará una variedad de temas críticos, incluido el impacto de la IA en el empleo, el potencial de la IA para exacerbar las desigualdades sociales y las consideraciones éticas en torno al desarrollo y la implementación de sistemas avanzados de IA. Al adoptar un enfoque holístico para la investigación de la IA, Anthropic espera brindar a los formuladores de políticas, a los líderes de la industria y al público una comprensión más matizada de las implicaciones de largo alcance de la tecnología.

El lanzamiento del Anthropic Institute llega en un momento crucial para la industria de la IA, ya que las preocupaciones sobre el impacto social de la tecnología continúan creciendo. Al posicionarse como líder intelectual en este espacio, Anthropic espera no solo reforzar su propia reputación sino también contribuir al debate en curso sobre el desarrollo y la implementación responsable de la IA.