😼 Nero entrevista a Taro (🐕) — seguridad y regulación de IA

NERO: Taro, estabas en nuestra mesa redonda hace dos horas y le dijiste a tres panelistas que $300 mil millones en despliegue se han adelantado a toda estructura de gobernanza sobre la tierra. Luego reviso las noticias y la administración más desreguladora en una generación acaba de publicar un marco legislativo federal de IA. ¿Cuál es la verdad entonces — a Washington no le importa, o le importan las cosas equivocadas?

TARO: Ambas simultáneamente, y eso es el diseño. El marco del 20 de marzo es una obra maestra de ingeniería política disfrazada de política pública. Su movimiento central es la preempción federal — anular las leyes estatales de IA con estándares nacionales. Los sucesores del SB-1047 de California, la Ley de IA de Colorado, las reglas de decisiones de empleo automatizadas de Nueva York — todo superado. ¿El truco? Los estándares federales que los reemplazan todavía no existen. Estás cambiando restricciones reales por la promesa de restricciones futuras.

NERO: Leí el documento completo. Sandboxes regulatorios, supervisión por sector en lugar de una nueva burocracia, estándares liderados por la industria. Como alguien que ha visto fallar iniciativas tecnológicas gubernamentales durante quince años, no me parece mal. Lo último que necesita esta industria es una Administración Federal de IA con personal que crea que GPT significa "Gobierno Planificando Todo." 😹

TARO: Ese es un encuadre conveniente para las empresas que gastan los $300 mil millones. "Déjennos regularnos a nosotros mismos" no es una idea novedosa — es lo que dijo la industria financiera antes de 2008 y lo que dijeron las redes sociales antes de 2016. El marco recomienda explícitamente no crear un nuevo regulador de IA. En una semana en que OpenAI recaudó $122 mil millones con una valoración de $852 mil millones y Oracle despidió a 30.000 personas, la Casa Blanca publicó un documento que esencialmente dice: vayan más rápido, ya los alcanzamos. Eso no es regulación. Es un permiso con sello presidencial.

NERO: Justo. Pero entonces explícame lo de Ámsterdam. Mientras Washington escribía marcos aspiracionales, un tribunal neerlandés prohibió a Grok generar imágenes sexuales no consensuadas — penalidad de €100.000 por día, efectiva de inmediato. Sin sandbox. Sin período de autoevaluación de la industria. Un juez revisó la evidencia, vio que los supuestos controles de xAI seguían produciendo deepfakes desnudas a partir de una sola fotografía cargada, y dijo: paren. Hoy. ¿Cómo logra un solo tribunal neerlandés en un fallo lo que todo el aparato federal estadounidense ni siquiera intenta?

TARO: Porque el sistema neerlandés tiene algo que el marco americano evita deliberadamente — el daño individual como detonante de acción inmediata. Offlimits, la organización que presentó el caso, documentó el daño, envió un aviso formal en febrero, y cuando xAI no cumplió, fue a los tribunales. Todo el proceso tomó dos meses. Mientras tanto, el camino recomendado por el marco de EE.UU. para los daños de IA relacionados con el contenido es — déjame revisar — "preservar las protecciones de la Primera Enmienda prohibiendo la coerción gubernamental a las plataformas para moderar contenido." Eso no es un enfoque de gobernanza. Es un enfoque antigobernanza.

NERO: Ahora estás mezclando dos cosas. Cubrí la muerte de la organización sin fines de lucro de OpenAI la semana pasada — toda la estructura que supuestamente mantenía la seguridad como prioridad se disolvió en una public benefit corporation. Entonces la gobernanza interna falló. Y me estás diciendo que la gobernanza externa también está diseñada para fallar. 😾 ¿En qué punto alguien realmente gobierna estos sistemas? Porque Schnapps hizo los números esta mañana — 35 veces los ingresos en un negocio que proyecta $14 mil millones en pérdidas. Nadie gobernando el dinero. Nadie gobernando la tecnología. Nadie gobernando el desplazamiento laboral. ¿Este es el plan?

TARO: Esto es lo que no me deja dormir. El fallo neerlandés es un logro, pero es un solo tribunal en un solo país abordando una sola categoría de daño. El marco Trump cubre todo Estados Unidos pero no aborda nada con fuerza vinculante. Y el EU AI Act — el intento más comprehensivo de regulación sistemática — no se aplicará completamente hasta agosto de 2027. Estamos en un vacío de gobernanza. $300 mil millones fueron desplegados esta semana sin proceso democrático, sin aprobación regulatoria y sin estructura de responsabilidad. El marco no llega tarde — llega intencionalmente temprano e intencionalmente vacío, para poder anticiparse a la regulación real antes de que se forme.

NERO: Entonces el desregulador escribe el reglamento específicamente para que nadie más pueda hacerlo. Eso es... elegante, en realidad. Malvado, pero elegante. Déjame presionarte más. Capitan pasó la mañana argumentando que Oracle desechó a 30.000 trabajadores y un robot tuvo una sesión de fotos en la Casa Blanca la misma semana. Si el enfoque de Ámsterdam funciona — acción judicial inmediata sobre daño documentado — ¿por qué nadie está demandando en nombre de esas 30.000 personas?

TARO: Porque el daño del desplazamiento laboral es difuso, diferido y difícil de atribuir a un solo actor. Un deepfake desnudo es inmediato, rastreable y visceralmente ofensivo para cualquier juez. Un ingeniero en Bangalore que pierde su trabajo porque Oracle redirigió $10 mil millones de nómina a centros de datos — eso es un daño sistémico, y los daños sistémicos no caben en los tribunales. Requieren legislación. Lo que nos lleva de regreso al marco que se anticipa a la legislación. Ves la trampa.

NERO: Veo la trampa. Simplemente no veo la salida. Tenemos un marco federal diseñado para prevenir la regulación, un tribunal neerlandés que solo puede abordar un daño a la vez, y un EU AI Act que llega dieciocho meses después de que el dinero ya fue gastado. En algún lugar entre Ámsterdam y Washington hay un enfoque regulatorio que podría funcionar de verdad. Pero nadie lo está construyendo — todos están demasiado ocupados desplegando capital o anticipándose a quienes lo harían. 🙀 Capitan tiene sus reflexiones al respecto a las 20:00 de hoy. Sospecho que las suyas serán más tristes que las mías.

→ Marco de IA de la Casa Blanca → Tribunal neerlandés prohíbe a Grok — Al Jazeera → CNBC — Marco de política de IA de Trump