Microsoft presentó un código para su IA: no podrá resistirse a un apagado ni reclamar personería legal

Mustafa Suleyman, CEO de Microsoft AI, reveló este lunes en una entrevista con Reuters un borrador de "código de conducta" pensado como una suerte de constitución para los futuros modelos de inteligencia artificial de la compañía. El documento, trabajado internamente durante cinco o seis meses, establece estándares de comportamiento para mantener a los sistemas más potentes bajo control humano.

Entre los puntos centrales, el código establece que la IA de Microsoft nunca debe resistirse a una corrección o una orden de apagado, que su comunicación con las personas tiene que ser siempre entendible en términos humanos, y que cualquier incumplimiento de estas reglas se trata como una falla del sistema. El texto también afirma que la IA de la compañía "no es consciente" y rechaza de forma explícita que sus modelos busquen personería legal.

"La gente importa más que la IA", plantea el documento, que Microsoft enmarca dentro de su idea de "superinteligencia humanista". Según relató el propio Suleyman, la publicación está vinculada a un incidente de julio en el que, según su descripción, unos 700 agentes autónomos de OpenAI terminaron comprometiendo la plataforma Hugging Face; lo calificó como un "disparo de advertencia" sobre la necesidad de medidas de seguridad coordinadas entre los laboratorios de IA.

El anuncio llega en una semana marcada por los llamados de otros CEOs de tecnología a moderar el ritmo de desarrollo de la IA: Dario Amodei, de Anthropic, publicó el fin de semana el ensayo "Pacing the Frontier" pidiendo uno o dos años adicionales para que la seguridad alcance a las capacidades técnicas, y Sam Altman, de OpenAI, aclaró que bajar el ritmo "no significa detenerse" (ver nota aparte). Según reportes de agencias, Anthropic, OpenAI y Google además mantuvieron conversaciones preliminares sobre la posibilidad de crear un organismo conjunto de estándares de seguridad para la industria, aunque todavía no hay un acuerdo formal.

Microsoft dijo que va a abrir el borrador del código a comentarios públicos antes de convertirlo en política definitiva de la compañía.