Anthropic, la firma detrás del chatbot Claude que se presenta como la alternativa “segura” frente a OpenAI, construye un sistema de vigilancia predictiva para monitorear activistas críticos del desarrollo de inteligencia artificial. Según reportes, la compañía está montando un extenso sistema de monitoreo para vigilar a activistas que se oponen al rápido desarrollo de la inteligencia artificial, e implementa además un enfoque de “pre-crimen” para intentar predecir incidentes antes de que ocurran. La empresa creó una división de Seguridad Global e Inteligencia, opera un centro de operaciones de seguridad activo las 24 horas, y ofrece salarios de entre 180.000 y 230.000 dólares anuales a analistas con habilidades de inteligencia de fuentes abiertas para rastrear protestas y posibles amenazas.
El caso resulta llamativo porque llega apenas meses después de que Anthropic se enfrentara públicamente al Departamento de Defensa de Estados Unidos. El director ejecutivo Dario Amodei afirmó que la compañía no podía permitir que su tecnología se aplicara a la vigilancia masiva doméstica ni a armas totalmente autónomas, negativa que provocó que el Pentágono clasificara a la empresa como un riesgo para la cadena de suministro. Ahora, según una investigación periodística, la empresa utiliza herramientas de la firma Samdesk para recibir alertas en tiempo real sobre protestas y ha llegado a reportar a la policía a usuarios de Claude por conversaciones consideradas amenazantes, sin entregar los registros completos del chat, lo que ha reavivado el debate sobre los límites entre la seguridad corporativa y el derecho a la protesta.