Directivos de Anthropic y OpenAI coincidieron en que el desarrollo de los modelos más avanzados debe desacelerarse para reforzar los controles de seguridad.
La carrera por desarrollar sistemas de inteligencia artificial cada vez más potentes comenzó a generar preocupación entre los propios referentes del sector. Los máximos responsables de Anthropic y OpenAI coincidieron en la necesidad de reducir la velocidad del avance tecnológico para fortalecer los mecanismos de seguridad, una postura que también recibió el respaldo de Elon Musk.
El debate tomó impulso tras las declaraciones de Jacob Coxon, exinvestigador de OpenAI y Anthropic, quien abandonó recientemente esta última empresa cuestionando la rapidez con la que se desarrollan los modelos más avanzados y la falta de controles suficientes.
Según Coxon, un reducido grupo de compañías privadas compite por construir sistemas cada vez más capaces sin contar con mecanismos de supervisión adecuados para una tecnología que podría alcanzar capacidades superiores a las humanas en numerosas tareas.
Anthropic propone desacelerar el desarrollo
El CEO de Anthropic, Dario Amodei, publicó un ensayo titulado We Must Pace the Frontier, en el que planteó un plan para reducir el ritmo del desarrollo de los modelos de frontera y permitir que las medidas de seguridad evolucionen al mismo tiempo que la tecnología.
Como primera medida concreta, la empresa anunció que permitirá que evaluadores externos tengan acceso permanente a sus sistemas en condiciones similares a las de sus empleados, con el objetivo de verificar el cumplimiento de las medidas de seguridad, reportar incidentes y evaluar el comportamiento de los modelos durante su entrenamiento.
OpenAI y Musk respaldan la iniciativa
La propuesta fue respaldada por Sam Altman, director ejecutivo de OpenAI, quien confirmó que la compañía adoptará un esquema similar para permitir auditorías independientes de sus sistemas.
A ese consenso también se sumó Elon Musk, fundador de xAI y propietario de SpaceX, quien apoyó públicamente la postura de Amodei.
El acuerdo entre algunos de los principales referentes de la industria refleja una preocupación creciente: mientras las empresas compiten por liderar el desarrollo de la inteligencia artificial, cada vez más especialistas sostienen que la regulación, la supervisión y las evaluaciones de seguridad necesitan avanzar al mismo ritmo que la tecnología para reducir los riesgos asociados a su creciente autonomía.
