Un ensayo publicado en Palladium Magazine profundiza en las consecuencias del fenómeno del AI Slop, según el cual la IA generativa estaría ayudando a generar grandes volúmenes de contenido de baja calidad a una gran velocidad, lo que provoca que se inunden los distintos canales digitales mediante los que las personas se informan y entretienen.
Normalmente, las críticas al AI Slop están orientadas al riesgo de saturación del mercado, el aumento del ruido y la dilución de la atención, tanto desde el punto de vista de los creadores humanos como el de los consumidores de información y entretenimiento.
El ensayo analiza la cuestión desde una perspectiva filosófica. Según Platón, las imitaciones continuas (copias de copias o “mímesis”), no son inofensivas puesto que degradan la capacidad de las personas para distinguir lo real de lo falso. Aplicado a la situación actual, esta cuestión añade dos tipos de riesgos respaldados por investigaciones recientes:
- Un riesgo técnico, según el cual los modelos pierden diversidad (convergen a la media, pierden patrones raros…) cuando se entrenan con sus propios outputs/salidas, al entrar en lo que se conoce como “colapso del modelo”, en el que básicamente entran en un bucle de degradación de su propio contenido generado.
- El riesgo cultural, según el cual el consumo de copias de copias de forma habitual deteriora la capacidad de las personas para apreciar lo complejo, lo singular y/o lo “menos común”. Es decir, acostumbra a lo homogéneo y fácilmente procesable.
Los riesgos del AI slop
El riesgo para el ecosistema musical y cultural no es únicamente que haya demasiada música o ruido o que parte de la inversión o los ingresos se desplacen hacia el contenido sintético.
Adicionalmente a estas cuestiones, un posible problema adicional es que la arquitectura técnica y cultural asociada a la generación de contenido y las recomendaciones se van dirigiendo hacia un estándar cada vez más estrecho. Es decir, hacia un contexto donde las propuestas que se salen de las fórmulas dominantes tienen menos espacio y exposición, aunque tengan un valor artístico y/o cultural por su vinculación con comunidades específicas.
Para los decisores políticos, los planteamientos de este ensayo amplían la discusión sobre la IA en la cultura: el debate no debería limitarse a “si suena bien o mal” o “si sustituye o no a los músicos como otras tecnologías del pasado”, sino que deben incorporarse cuestiones sobre cómo afecta a la manera en la que se forman los gustos y el criterio de los consumidores y a qué tipo de creación cultural es visible en el largo plazo.