Anthropic, OpenAI y Google estudian la posibilidad de crear un organismo independiente de autorregulación para la inteligencia artificial, con el objetivo de establecer estándares comunes de seguridad en un sector marcado por el rápido avance de los modelos y la intensa competencia entre las grandes compañías tecnológicas.
La iniciativa surge en un momento en el que algunos de los principales responsables de la industria han comenzado a plantear públicamente la necesidad de acompasar el desarrollo de los sistemas más avanzados con nuevas medidas de control y evaluación. Entre ellos se encuentra el consejero delegado de Anthropic, Dario Amodei, que ha defendido recientemente la conveniencia de reducir el ritmo de desarrollo para reforzar las garantías frente a posibles riesgos.
Su planteamiento ha recibido el apoyo de figuras relevantes del sector. Sam Altman, CEO de OpenAI, y Demis Hassabis, responsable de inteligencia artificial de Google, han respaldado la idea de que el progreso tecnológico debe producirse con mayores precauciones. Altman ha reconocido que el avance de la IA está siendo especialmente rápido y ha defendido la necesidad de moderar ese ritmo.
Las conversaciones entre Anthropic, OpenAI y Google contemplarían la creación de una entidad encargada de establecer y supervisar medidas de seguridad comunes para los sistemas de inteligencia artificial más avanzados. El modelo podría inspirarse en organismos de autorregulación presentes en otros sectores económicos.
Un acuerdo que también genera dudas sobre la competencia
La propuesta plantea la posibilidad de que las propias compañías tecnológicas acuerden determinados límites y protocolos de seguridad. Para hacerlo, Amodei ha sugerido incluso estudiar una exención limitada dentro de las normas estadounidenses de competencia, de manera que las empresas puedan coordinarse en cuestiones relacionadas específicamente con la seguridad de la IA.
El planteamiento, sin embargo, abre un debate que va más allá de los riesgos tecnológicos. Una de las principales dudas es si un acuerdo entre las grandes compañías podría terminar dificultando la entrada o el crecimiento de competidores más pequeños, al establecer condiciones que estos tengan más dificultades para cumplir.
También existe una dimensión geopolítica. La Administración estadounidense mantiene como uno de sus objetivos conservar la ventaja tecnológica del país frente a otras potencias, especialmente China. En este contexto, una desaceleración coordinada del desarrollo de la inteligencia artificial podría entrar en conflicto con las estrategias destinadas a mantener ese liderazgo internacional.
El presidente estadounidense, Donald Trump, se ha mostrado contrario a frenar el desarrollo de esta tecnología y ha defendido la posición de Estados Unidos como una de las principales potencias mundiales en inteligencia artificial.
La posible creación del organismo refleja, en cualquier caso, un cambio en el debate dentro de la propia industria tecnológica. Las empresas que han protagonizado buena parte de la aceleración de la inteligencia artificial empiezan ahora a plantearse mecanismos compartidos para controlar los riesgos asociados a sistemas cada vez más capaces.
Por ahora, la iniciativa permanece en fase de conversaciones y no existe un organismo formalmente constituido. Su eventual puesta en marcha dependerá tanto del acuerdo entre las compañías como de las implicaciones regulatorias y de competencia que tendría una coordinación de este tipo entre algunos de los principales actores mundiales de la inteligencia artificial.
