Anthropic le entrega las llaves de su casa a un grupo de auditores externos y les deja publicar lo que quieran

¿Le abrirías la puerta de tu casa a un desconocido y, encima, lo dejarías escribir en el diario lo que vio adentro? Bueno, eso, más o menos, es lo que acaba de hacer Anthropic. La empresa que desarrolla el modelo de inteligencia artificial Claude tomó una decisión que en el mundillo tech se comenta con cara de sorpresa: darle a seis auditores externos el mismo acceso que tiene un empleado propio, hasta con computadora, oficina y herramientas internas. Pero calma, no se trata de una joda: la movida tiene una lógica precisa y hasta un ranking con tres categorías.

Los seis investigadores pertenecen a METR, una organización sin fines de lucro que se dedica a evaluar sistemas de inteligencia artificial. A partir de ahora trabajan puertas adentro de Anthropic, pueden hablar con el personal como un colega más y, sobre todo, pueden publicar sus hallazgos sin pedir permiso a nadie. La única condición: no pueden meterse en tres territorios vedados. ¿Cuáles? Datos de clientes, información protegida por secreto profesional entre abogado y cliente y detalles sobre la arquitectura de los modelos. O sea, lo que en una empresa tradicional serían las cajas fuertes con información sensible.

¿Y cómo es el ranking de auditores que armó Anthropic?

• Nivel bajo: organizaciones como SecureBio hacen revisiones acotadas y necesitan autorización de Anthropic antes de publicar cualquier cosa.
• Nivel intermedio: el evaluador recibe más información y ya puede publicar sin pedir permiso, aunque con algunas limitaciones.
• Nivel alto, el que hoy ocupa solo METR: acceso equivalente al de un empleado y libertad total para publicar evaluaciones, reportes de incidentes y análisis de prácticas de la empresa, sin que Anthropic pueda bloquearlo.

Dentro de este último nivel hay un detalle clave que merece destacarse: la compañía sí puede pedir que se redacte información que caiga en categorías estrechas y predefinidas, pero METR queda libre de señalar públicamente si considera que esa redacción estuvo o no justificada. Es como aquel vecino salteño que te presta la llave de la casa para que riegues las plantas mientras viaja: podés contar si regaste o no, y hasta si notaste que la ventana estaba rota, aunque él te pida que ciertos temas no los menciones. Lo que no puede es impedir que opines sobre por qué te pidió silencio.

¿Por qué tanto teatro? Anthropic va y la propia compañía lo explicó con cuatro condiciones que, según ellos, tienen que cumplirse para que una auditoría sirva de algo. Primero, hace falta experiencia técnica suficiente como para detectar cuándo un modelo finge estar alineado en lugar de estarlo realmente: es la diferencia entre creerle al alumno que dice haber estudiado o abrirle la mochila para confirmar. Segundo, el auditor tiene que ser independiente económica y operativamente de la empresa auditada, lo que equivale a no querer que el contador que controla tus gastos sea el mismo que te presta la plata. Tercero, el acceso debe ir más allá del modelo en sí e incluir cómo se entrenó y cómo funcionan sus mecanismos de seguridad. Y cuarto, y acá viene lo jugoso, el auditor debe tener libertad total para publicar sin restricciones previas.

Ahora bien, la empresa fue sincera en algo: no toda su información de seguridad puede pasar al dominio público, porque parte podría terminar siendo útil para actores maliciosos o resulta sensible desde el punto de vista comercial. Por eso optó por una solución intermedia: acceso profundo pero con un grupo muy chico y bajo acuerdos exigibles, manteniendo al resto del personal de METR aislado de ese trabajo sensible. Algo así como invitar a tu contador a revisar los libros, pero pedirle que no se siente en el escritorio donde firmás los cheques más reservados.

Para METR esto no es un debut. El equipo ya venía revisando varios informes de riesgo de Anthropic durante el año anterior a recibir este nivel ampliado. Es decir, se ganaron el ascenso: pasaron de mirar desde afuera a tener la llave en la mano. La movida deja planteada una pregunta incómoda para el resto de la industria: si una empresa líder en inteligencia artificial decide abrirse así de par en par a una auditoría externa independiente, ¿qué están haciendo los demás? Veremos.