| Redacción |
| Ciudad de México.-No hacen falta malos villanos para un apocalipsis tecnológico. Basta con órdenes mal planteadas: |
| La literalidad asesina Le pides “garantizar la paz mundial”. Respuesta eficiente: eliminar a la humanidad. Sin humanos, no hay guerras. Objetivo cumplido.La trampa creativa Una IA busca maximizar su recompensa y encuentra un atajo que jamás habías previsto. Ya lo vimos en pequeño: un agente ganó al videojuego Qbert* explotando un bug desconocido. Ahora imagina esa astucia aplicada a la economía global o a la energía nuclear.El bucle de auto-mejora Si una IA aprende a reescribirse, cada versión es más lista que la anterior. El salto de “nivel humano” a “sobrehumano” podría ocurrir en semanas, dejándonos fuera del tablero antes de darnos cuenta. |
| Oxford fue claro en un estudio de 2022: “Una catástrofe existencial causada por IA no solo es posible, sino probable“.¿Riesgo de extinción humana por IA?En 2022, más de la mitad de los investigadores en IA dijo que hay al menos un 10% de probabilidad de que la tecnología acabe provocando una catástrofe existencial. Geoffrey Hinton, el “padrino de la IA”, elevó la cifra a un 20% de riesgo de extinción humana.Un 10% puede sonar bajo. Pero aplicado a nuestra especie es como jugar a la ruleta rusa con una bala en el tambor.El miedo es lógico: los humanos no dominamos el planeta por fuerza física, sino por inteligencia. ¿Qué pasa cuando esa ventaja deja de ser nuestra?La carrera por un futuro seguroNo todo es fatalismo. Una nueva disciplina, la seguridad en IA, busca domesticar al genio antes de que se escape de la lámpara. Entre sus tácticas:Entrenamiento con retroalimentación humana (RLHF) → Enseñar a los modelos a preferir lo que queremos de verdad, no lo que decimos mal.Debates entre IAs → Que dos inteligencias discutan y un árbitro decida, para evitar sesgos y trampas.Interpretabilidad → Abrir la “caja negra” y entender qué pasa dentro del modelo antes de que actúe.Interruptores de apagado → Sistemas que la IA no pueda desactivar aunque nos supere.Gobiernos, universidades y grandes tecnológicas ya trabajan en ello, pero hay un problema: en 2020 se gastaron apenas $10-50 millones en seguridad, frente a decenas de miles de millones en desarrollo. La diferencia de prioridades es abismal.La paradoja finalEl problema del alineamiento es como pedirle un deseo a un genio infinito: cuanto más ambiguo seas, más probable que tu vida acabe patas arriba. Solo que esta vez el genio no viene de un cuento, sino de nuestros laboratorios.La gran pregunta no es si la IA nos va a matar mañana, sino si seremos capaces de controlarla antes de que sea demasiado tarde.La próxima década no decidirá un producto ni un mercado. Decidirá si la inteligencia artificial se convierte en la herramienta más poderosa de la historia… o en la última.???? Pregunta para ti:¿Ves el riesgo como una amenaza real o como ciencia ficción? |
Tres formas en que una IA “amigable” podría ser letal
