
Abro paréntesis - Amodei y marcar el ritmo de la IA
Abro paréntesis para hablar del ensayo que Dario Amodei, el jefe de Anthropic, publicó el 12 de septiembre. Pide que la industria de la IA vaya más despacio y propone meter evaluadores de fuera dentro de las empresas, empezando por la suya. Complementa el episodio del miércoles sobre el incidente de OpenAI con Hugging Face. Grabado el 13 de septiembre, improvisado y con todas mis dudas. DESPUÉS DE GRABAR · Digo que el Gobierno aún no ha comentado nada. Era así el día 13. El 14 de septiembre Trump dijo que el miedo a que la IA acabe con la humanidad es un bulo y rechazó ponerle más control, y el Ministerio de Exteriores chino calificó de alarmismo las peticiones de frenar. FE DE ERRATAS · El correo correcto es nextwavetodaypodcast@gmail.com. · La comparación con la bomba atómica y el uranio enriquecido es mía, no de Amodei. Él compara su propuesta con los tratados SALT de limitación de misiles. · Sobre la tasa de fallos: el 1 entre 10^12 era el objetivo con el que trabajábamos en certificación en mi empresa, algo habitual para partes concretas del sistema. La norma, en cambio, es igual en Europa y en Estados Unidos: menos de un fallo catastrófico cada mil millones de horas de vuelo (10^-9). No hay la diferencia entre los dos que dije. CAPÍTULOS 00:00 Abro paréntesis 01:26 Lo que dice Amodei, en resumen 05:31 Musk y Altman le dan la razón 06:42 La regulación deja fuera a los pequeños 08:50 Por qué ahora 11:08 Aprender de los accidentes 13:04 Qué no pueden tachar, y cuánto tarda regular 17:13 Antimonopolio, China y las nucleares 20:24 ¿Las normas frenan la innovación? 22:24 El evaluador también se puede engañar 25:03 Quién gana con la regla 26:17 Una auditoría no puede ser solo una visita 27:35 Qué mirar dentro de unos meses 29:15 Cierro paréntesis FUENTES Ensayo de Dario Amodei: https://darioamodei.com/post/we-must-pace-the-frontier El Arjonauta, de Daniel Arjona (13 de septiembre de 2026) Vídeo de Species: https://www.youtube.com/watch?v=FLcrvMfHUJM ¿Os creéis que una empresa frene por su cuenta? ¿Qué os haría creerlo? Contádmelo: nextwavetodaypodcast@gmail.com nextwave.today