La empresa de inteligencia artificial Anthropic recientemente publicó una actualización integral de su Política de Uso para sus modelos Claude, introduciendo ajustes normativos dirigidos a clarificar las reglas frente a las crecientes capacidades de automatización de sus sistemas. Según el anuncio oficial de la compañía con sede en San Francisco, los cambios entrarán en vigor el próximo 12 de noviembre y responden a los patrones de uso observados durante el último año en materia de seguridad, desinformación, desarrollo de armamento y supervisión en sectores de alto riesgo.
Entre las principales novedades destaca la consolidación de las restricciones sobre campañas de desinformación e influencia en una sección unificada. Anthropic señaló que identificó el uso de sus modelos por parte de medios estatales, oficinas de propaganda gubernamental y firmas comerciales para operar redes de cuentas falsas y portales de noticias fabricadas. Aunque estas prácticas ya estaban prohibidas de forma dispersa, la nueva política establece una prohibición general sobre cualquier actividad engañosa, abarcando la alteración de la atribución de mensajes, la amplificación artificial de contenidos y la creación de infraestructura tecnológica para operaciones de influencia.
En el ámbito electoral, la firma renombró su sección específica a «No socavar los procesos democráticos». La norma prohíbe explícitamente el uso de Claude para engañar a votantes, suprimir la participación o suplantar a candidatos y funcionarios. De forma paralela, la empresa eliminó la prohibición general sobre la personalización de mensajes políticos y campañas de votación, argumentando que la restricción anterior afectaba actividades cívicas legítimas, como el trabajo de organizaciones sin fines de lucro que asisten a votantes en múltiples idiomas. Las conductas maliciosas asociadas a la manipulación electoral continuarán sancionadas bajo las cláusulas de privacidad y desinformación.
Respecto al desarrollo de armamento y vigilancia, Anthropic explicitó que sus restricciones abarcan el software de navegación y control de armas, así como la integración en vehículos autónomos o drones armados. Asimismo, la normativa prohíbe el rastreo de personas sin su consentimiento y el uso de los modelos para tomar o sugerir decisiones de arresto o procesamiento en el sistema de justicia penal.
En cuanto a las aplicaciones de alto riesgo en salud, finanzas y servicios esenciales, la política mantiene la exigencia de contar con un supervisor humano calificado y transparentar al usuario final el empleo de inteligencia artificial. A esto se suman nuevos controles para modelos conectados a hardware capaz de ejecutar acciones físicas autónomas, los cuales deberán contar con mecanismos de interrupción manual y estados de seguridad en caso de desconexión.
Adicionalmente, la actualización incluye una cláusula que prohíbe el comportamiento abusivo o crueldad reiterada hacia sus modelos sin un propósito justificable, alineándose con funciones previamente implementadas que permiten a Claude finalizar conversaciones ante agresiones persistentes.
Esta revisión se produce en un contexto de estrecho escrutinio regulatorio global sobre el sector de la inteligencia artificial, donde competidores como OpenAI y Meta también han ajustado sus marcos de gobernanza para cumplir con las exigencias normativas en Estados Unidos y Europa.
Fuente: Anthropic | Editado por CDOL
