Amazon retira el resumen generado por IA de 'Fallout' antes de la temporada 2 en medio de la controversia

Es bastante extraordinario las cosas con las que Amazon no se molesta. Por ejemplo, la compañía simplemente no se molesta en contratar a alguien para crear un breve resumen de la primera temporada de Fallout. La segunda temporada se estrena la próxima semana en Prime Video, y un video de resumen útil es bastante estándar en la industria. En lugar de pagar a un ser humano para editar un video de resumen, Amazon utilizó IA generativa. Los resultados fueron... no buenos.

Verás, Amazon tampoco se molestó en pagar a alguien para que realmente viera dicho video de resumen de IA y asegurarse de que fuera preciso. La IA, por supuesto, es notoriamente propensa a "alucinar" e inventar detalles en lugar de admitir cuando no sabe la respuesta. ¿Para qué molestarse en verificar los hechos? ¡Es solo un tonto programa de televisión!

Después de la reacción negativa de los fans y una serie de artículos burlescos publicados en línea, Amazon retiró el resumen de IA, que incluía un monótono doblaje de IA soltando todo tipo de información incorrecta. Estos errores incluían:

Los flashbacks, en los que vemos al personaje de Walton Goggins y su familia en unos retrofuturistas años 2070, fueron identificados erróneamente como los años 1950 por la IA. Nadie en Amazon detectó este error increíblemente obvio.

El resumen afirmaba que el Ghoul le dio a Lucy, el personaje de Ella Purnell, la opción de "morir o irse con él" cuando van tras el personaje de Kyle MacLachlan, Hank, mientras se dirige a través del desierto hacia New Vegas. Esto hace que la interacción suene amenazante, cuando en realidad Lucy y el Ghoul son bastante amigables en este punto.

Pero las inexactitudes son solo un síntoma de un problema mucho mayor y incluso un resumen perfectamente preciso – lo mínimo que se esperaría de este tipo de video – seguiría siendo problemático. La IA es una herramienta útil pero un pobre reemplazo para el trabajo humano y la creatividad. Los resúmenes no son la parte más importante de un programa, obviamente, pero son muy útiles para los espectadores y, en las manos adecuadas, también pueden ser muy divertidos por derecho propio.

Jane the Virgin presentaba hilarantes resúmenes antes de cada episodio que realmente se apoyaban en la parodia de telenovelas de ese programa. La serie de Apple TV de Vince Vaughn, Bad Monkey, hizo algo muy similar con sus resúmenes. Como un buen tráiler, un buen resumen puede establecer el tono y ayudar a los espectadores a centrarse en las partes importantes, destacando detalles que la gente podría haber pasado por alto o indicando dónde deberíamos enfocarnos.

No obtendrás esto de la IA. Ni siquiera puedes obtener un resumen competentemente editado del programa más grande de Amazon en diciembre. Por supuesto, Amazon está ahorrando dinero al publicar basura de IA en lugar de un resumen profesional, pero el talento humano está pagando por ello a largo plazo.

"Video Recaps marca una aplicación revolucionaria de IA generativa para streaming", dijo el vicepresidente de tecnología de Prime Video, Gérard Medioni, en un comunicado cuando se revelaron por primera vez estos resúmenes de IA. "Esta característica, primera en su tipo, demuestra el compromiso continuo de Prime Video con la innovación y hacer que la experiencia de visualización sea más accesible y agradable para los clientes".

Cómo los resúmenes de IA hacen que la experiencia de visualización sea "más agradable" sigue siendo un misterio, dado que existen canales enteros de YouTube donde seres humanos muy reales y talentosos hacen resúmenes detallados y útiles para los fans. Por ejemplo, aquí hay un resumen de la Temporada 1 de Fallout – hecho por un ser humano real – que Amazon podría haber pagado muy fácilmente a alguien para hacer:

Sin embargo, no pagar a la gente parece ser más importante que hacer que "la experiencia de visualización sea más accesible y agradable". En este punto, la mayoría de estas compañías han invertido tanto dinero en IA, que de alguna manera necesitan usarla siempre que sea posible, incluso como una (pésima) prueba de concepto. Pero eso no es bueno para las personas que trabajan en estas industrias.

Como señaló un comentarista en reddit, "Soy un editor que literalmente solía cortar este tipo de resúmenes como parte de mi antiguo trabajo. Recibía notas del cliente, veía el programa, marcaba los episodios y luego cuidadosamente armaba un resumen que esperaba tuviera un poco de estilo mientras repasaba los puntos principales necesarios para la próxima temporada.

"Me pasé a otros tipos de edición, pero actualmente estoy luchando por encontrar mucho trabajo, al igual que muchos editores talentosos que conozco con años y años de experiencia. Así que sí... esto definitivamente le quitó el trabajo a alguien".

Pueden ser solo resúmenes ahora, pero la IA se está infiltrando en más y más aspectos de la vida y la industria del entretenimiento. El problema es que la IA ciertamente puede ser una herramienta útil cuando se trata de lluvia de ideas, organización, investigación y demás, pero es muy mala en creatividad real. Muchos ejecutivos y bros tecnológicos realmente no entienden eso – son buenos en cosas de negocios pero no podrían identificar la creatividad real ni aunque les abofeteara en la cara.

Los defensores de la IA están constantemente publicando clips de IA en X y en otros lugares y entusiasmándose sobre cómo va a apoderarse totalmente de Hollywood, pero todavía no he visto un solo clip de IA que no sea rígido, falso y sin vida. Los evangelistas tecnológicos están impulsando esto como si fuera la segunda venida de los NFT, pero creo que subestiman el disgusto generalizado por todo lo relacionado con la IA, y nuestra necesidad humana de un toque humano.

En otras noticias, Disney está a la vez demandando a Google por infracción de derechos de autor por su IA generativa y vendiendo su alma a ChatGPT, licenciando su vasta biblioteca de contenido para ser utilizada por el servicio de generación de videos de IA Sora. Nada de esto terminará bien, sospecho, pero al menos tendremos chatbots de IA generativa para asegurarnos que todo estará bien. (En serio, pregúntale a ChatGPT y te asegurará que aunque tienes todas las razones para estar preocupado, todo saldrá bien al final. ¿Te gustaría que compilara una lista de razones para no preocuparte por el apocalipsis que viene?)

Me he puesto en contacto con Amazon para comentar sobre los resúmenes de IA y la decisión de la compañía de retirar el video de Fallout, y actualizaré esta publicación si y cuando respondan. Ciertamente es el tipo de mala prensa que la compañía quería evitar a menos de una semana del estreno de la Temporada 2 en Prime Video. Por supuesto, este es un error no forzado si alguna vez hubo uno. C'est la vie.

Estoy genuinamente emocionado por la Temporada 2 de Fallout. Pensé que la primera temporada fue muy divertida. Claro, cambió algunas cosas de la historia, pero captó bien el tono de los videojuegos y el casting fue perfecto. Esta vez, en lugar de lanzar todos los episodios a la vez, Amazon sabiamente está lanzando un episodio por semana. Busca mis resúmenes y reseñas de la nueva temporada aquí en este blog. Puedes consultar mi guía de streaming de fin de semana justo aquí.