La última estafa de la IA

Qué tal gente.

Me encanta la IA en ciertos campos como la investigación científica, consulta, creación de herramientas, etc... Pero como sabéis, también tiene cosas horribles.

Entre ellas la basura de canciones que se generan con IA, y cómo se usa sin consentimiento obras para entrenarla.

Si queréis saber si alguna de vuestros temas están siendo usados por estos datasets para entrenar la IA, podéis buscarlo aquí (aunque seguro que se usan muchas más de las que figuran): https://www.theatlantic.com/category/ai-watchdog/

Algunos datasets se supone que solo toman metadatos y letras como Laion Disco, mientras otros van a saco y no se cortan en usar todo como Sleeping-DISCO-9M. Y como digo, debe haber muchos más.

Estoy pensando en crear algo con IA que sirva a los creadores para averiguar quién está usando sus obras y reclamar por ello. Ya sabéis eso de combatir fuego con fuego... 

Pero eso no es todo.

Ya ni te puedes fiar de las entrevistas en youtube a gente como Eric Clapton, o Keith Richards. Están empezando a salir canales que sintetizan su voz falseando también lo que dicen. Todavía no han conseguido la calidad suficiente para simular la risa ahogada de Keef, pero a cualquier neófito se la pueden colar.

Y esto me parece de lo más triste. Youtube llegó a ser una especie de cápsula del tiempo digital, donde uno puede sumergirse y encontrar material histórico muy valioso, y ahora con esto de la IA su presunción de veracidad ha quedado por los suelos.

No voy a poner los vídeos para no favorecer a quien los hace, pero si tenéis curiosidad podéis buscar canales como Golden FilmRetro. Auténtica basura.

¿Estaríais dispuestos a reclamar si descubrís que vuestras obras están siendo usadas por estos datasets?

El otro día justo vi un video del Estepario pidiendo ayuda para denunciar y llevar a juicio a esta gente porque dice que estan usando sus videos para hacer otros con IA. Además justo ayer me salió una china haciendo rollo Angine de Poitrine que era IA.  

#2 Si, yo también lo vi muy cabreado buscando formas de plantarle cara a la IA.

Hace poco descubrí lo del "adversarial noise". Consiste en engañar a la IA de reconocimiento de voz mediante información escondida en el sonido.

Esta tecnología es capaz camuflarse en una canción o sonido y hackear un asistente de voz para que te haga compras por amazon o te manipule la domótica de tu casa. También sirve para crear una huella sonora en las canciones o impedir que la IA aprenda de las obras que lo tengan implementado.

Dejo un vídeo muy interesante sobre el arte de "envenenar" la música para la IA. 

Apoyo cualquier medida para este deplorable uso particular (entre otros horribles que tiene) de la IA, si.

Yo denuncié el video de la china, ni sé si servirá de algo... pero bueno.

#3 En música es muy difícil y es por una razón que es la madre del cordero: La producción. La música que acaba en soporte hoy esta tan producida, comprimida, filtrada, y luego pasada al mp3/ACC/OGG y los filtros de las plataformas, que cuando llega al set de entrenamiento ya han hecho el trabajo de preprocesador de los datos  a la empresa IA de turno,  limado el ruido adversarial. Youtube ya usa Opus, que posiblemente  es el más problemático para esas empresas, pero Spotify sigue con Vorbis. Y Apple con su cosa privativa estandarizada en la industria. 

Pero antes del formato tu o tu productor ya ha hecho el trabajo gordo para reducir la supervivencia del ruido adversarial. Hay géneros como el reageton y el metal que viven en guerrras de sonido, limitadores y compresiones por todos los lados. El ruido vive mejor en la dinámica. Simplemente la masterizacion ya es un buen filtro de ayuda para estas empresas. Posiblemente habría que meter el ruido en el paso final de la cadena. Ni idea. 

En esto de la IA acabará habiendo muchas puertas al campo. Y mucho toma y daca.

Hollownota escribió:

Apoyo cualquier medida para este deplorable uso particular (entre otros horribles que tiene) de la IA, si.

Casi todos son horribles.

La verdad es que da asco.
Tengo amistades que no han tocado en su vida una flauta y me piden opinión sobre las canciones que han hecho con la IA.
A riesgo de que nuestra amistad se resienta, les comento que si se usa como herramienta podría llegar a entender su uso (dentro de ciertos límites).
La música, la escritura, la creación... debe ser humana y con valores humanos. Cualquier otro es detestable.

Me dedico al código. En mi entorno to dios tira de la IA para todo y para mí es inaceptable. 

Como ayuda puede valer. Sobrepasar ciertos límites, me parece obsceno.

personaX escribió:

Sobrepasar ciertos límites, me parece obsceno.

No sólo obsceno.
Parece que ya están alcanzando singularidad.
Y, desde luego, ésto es un desafío para el trabajo de los parias mucho mayor que la máquina de vapor y la fabricación en serie.
Y para guinda, los dueños de las IA, grandes benefactores.
O establecemos límites o Skynet va a dominar el mundo, entonces sobraremos.
Eso del humanismo, era de coña, ¿verdad?

Soy consciente de que la IA va a estar en todos lados, ya lo está, y como herramienta me parece útil. Lo que me da un poquito de miedo es cómo va a evolucionar...respecto a la música, ya está aquí, y es una realidad que se usa y se va a utilizar y hay que adaptarse.
 La cosa es que ya estoy viendo cómo personas cercanas sacan temas con suno con su propia voz en los que ni siquiera están cantando realmente...y cuela como realizado por ellos. La gente que no está en el mundo de la música aún no es consciente de que esto está pasando, imagino que cuando sea algo utilizado por todo el mundo, empezarán a dudar...pero no sé cuánto queda para eso 
 

mbrr escribió:

va a estar en todos lados,

En realidad ya estaba de foma embrionaria desde hace muchos años, la IA comercial empaquetada como novedad no es más que una base de datos tutelada y manejada por algoritmos mucho más inteligentes que lo que había.
Problemas: esos algoritmos se basan en el consenso y no en la certeza. Para evitar el error se usan varios criterios, unos correctores (que pueden ser filtros para evitar lo que contravenga los intereses de sus propietarios) y otros a cargo de la propia IA (ojo con la toma de decisiones de parte de una IA singularizada).
Consumen energía a cholón, bravo por los ecologistas de pacotilla en contra de los coches y las nucleares; pero que te cuentan que han grabado uva canción o sacan a sus hijitos haciendo el zanguango en Tik Tok.

Y, repito, van a escabechar muchos puestos de trabajo, de momento muchos de la franja media y media alta del escalafón.

Vosotros mismos...

Quién es y porque está aquí....
Respuesta de quien domina y por qué 
Pregunta al ladrón por qué roba .
Lo mismo con la puta IA.

El control de la inteligencia artificial no está en manos de una sola entidad, sino que se disputa en un ecosistema fragmentado entre grandes corporaciones tecnológicas, gobiernos mediante regulaciones y los proveedores de la infraestructura física.

Alboan
+2
A nivel técnico, comercial y normativo, el control real de la IA se divide en los siguientes frentes:
1. Las Grandes Tecnológicas (Big Tech)
El desarrollo práctico y el despliegue de los modelos más potentes está concentrado en un oligopolio tecnológico:

Alboan
Creadores de Modelos: Empresas como OpenAI, Google, Anthropic y Meta controlan los algoritmos de frontera y los ecosistemas de agentes autónomos.

Los Andes
+1
Gigantes de la Distribución: Empresas que integran la IA en el software que ya usamos masivamente (Microsoft, Apple), dominando la capa de aplicación y el contacto con el usuario.

El Mundo
2. Los Dueños del Hardware e Infraestructura
La IA no existe de forma abstracta en la nube; requiere una inmensa infraestructura física:

Alboan
Fabricantes de Chips: Empresas como Nvidia controlan el suministro global de los procesadores avanzados (GPU) necesarios para entrenar y ejecutar cualquier IA de gran tamaño.
Proveedores de Cloud: Amazon (AWS), Microsoft (Azure) y Google Cloud controlan los centros de datos masivos donde se procesa la información. Quien corta la energía o el acceso a los servidores, apaga la IA.
3. Gobiernos y Agencias Reguladoras
Los Estados intentan poner límites legales y éticos frente a los riesgos del sector mediante normativas específicas:

IBM
+1
Unión Europea: Lidera la gobernanza global con la aplicación estricta de su Ley de IA (AI Act), que prohíbe o restringe los sistemas según su nivel de riesgo.

Atico34
+1
España: Cuenta con la Agencia Española de Supervisión de Inteligencia Artificial (AESIA), el primer organismo europeo dedicado exclusivamente a auditar, sancionar y velar por el uso seguro de esta tecnología.
Estados Unidos y China: Compiten geopolíticamente por el liderazgo tecnológico de la IA soberana. EE. UU. prioriza la seguridad nacional y los acuerdos ejecutivos con tecnológicas, mientras que China ejerce un férreo control estatal sobre los datos y los algoritmos que se difunden en su territorio.

LinkedIn
·Luis Alfonso Ruiz
+2
4. El "Lado Humano" y el Riesgo de Autonomía
Actualmente existe un debate urgente debido a la evolución de simples chatbots hacia agentes de IA autónomos. A medida que se les delega la capacidad de tomar decisiones complejas y ejecutar acciones por sí mismos en internet, el control de los propios ingenieros humanos se diluye, abriendo dilemas sobre quién es responsable cuando un algoritmo comete un error crítico.
¿Te interesa saber más sobre algún aspecto en específico? Te puedo detallar cómo funciona la Ley de IA en Europa o explicarte en qué consiste el concepto de IA soberana para los países.
Las respuestas de la IA pueden contener errores.
OSEA. COMO EL PUNTO COVID DE LOS COJONES....( Todo está en lo mismo querer tener el control)...