Anthropic le abrió la cocina a seis investigadores y les dio llave para contar lo que encuentren

Seis investigadores de METR, una organizacion sin fines de lucro que se dedica a evaluar sistemas de inteligencia artificial, trabajan desde adentro de Anthropic con el mismo nivel de acceso que cualquier empleado del area de riesgos. La empresa les dio computadoras, lugar en la oficina y herramientas internas. Pueden conversar con el personal como un companiero mas, salvo en tres areas reservadas: datos de clientes, informacion bajo secreto profesional y detalles puntuales de la arquitectura de los modelos.

Como esta organizado el esquema de tres niveles

• Nivel bajo: organizaciones como SecureBio hacen revisiones acotadas y necesitan autorizacion de Anthropic antes de publicar.
• Nivel medio: reciben mas informacion y pueden publicar sin pedir permiso previo.
• Nivel alto: solo METR hoy. Acceso equivalente al de un empleado y libertad para difundir evaluaciones, reportes de incidentes y analisis de practicas sin que la empresa los pueda bloquear.

Para llegar a ese nivel, Anthropic pidio que el auditor cumpla cuatro condiciones: tener experiencia tecnica suficiente como para detectar cuando un modelo finge estar alineado en lugar de estarlo de verdad; ser independiente economica y operativamente de la propia empresa; acceder no solo a los modelos sino tambien a como se entrenaron y como funcionan sus mecanismos de seguridad; y poder publicar sin restricciones previas. La compania aclaro que no puede hacer publica toda su informacion porque parte podria servir a actores maliciosos o es sensible desde lo comercial, por eso concentro el acceso profundo en un grupo chico bajo acuerdos exigibles y mantuvo al resto del personal de METR aislado de ese trabajo.

Voy a ser claro: que una empresa de inteligencia artificial le abra la puerta a un auditor externo con nivel de empleado y le permita publicar lo que encuentre sin pedirle permiso es algo que hasta ahora no se habia visto. Es como si una planta de gas de Plaza Huincul dejara entrar a un inspector con libreta propia y le dijera que puede contar lo que quiera en el diario. El equipo de METR ya venia revisando informes de riesgo de Anthropic desde el ano pasado, asi que no es una auditoria de cero: es un paso mas profundo sobre una relacion que ya existia.