No permitir "postear" contenido generado por IA

Es una mentira que no se puedan controlar las redes.
Prueba a poner en fb una foto con un pezón al aire (aunque sea de un cuadro famoso pintado en el s. XVII) y luego me lo cuentas.
Elon, Zuckerberg, etc., no quieren que les controlen sus negocios. Y punto pelota.

La salud mental de los chavales les importa un pimiento a los tecnomillonarios. He visto demasiadas veces cómo chavales que son acosados en el ambiente escolar no pueden eludir el acoso ni quedándose en casa porque este sigue en redes, y no son capaces de desengancharse de ellas.
Acoso, fracaso escolar, dependencia psicológica, expectativas estéticas irrealizables, difusión de prácticas autolesivas, bulos de toda índole (que pueden ir contra la salud general, contra el honor de las personas, etc.) , contenidos de odio racial, de género, etc., deepfake que puede hacer pensar a tu entorno que has grabado vídeos de contenido sexual... todo eso está en redes y está machacando a nuestros adolescentes, cuya salud mental ha caído en picado en los últimos años.
Controlar las redes es posible, pero pone trabas a la difusión libre y amplia de toda esa mierda, que se hace a cualquier coste, y haría perder ganancias a los dueños de esas plataformas, de ahí su resistencia.
No se trata de controlar al National Geographic o la web del Teatro Real. Las revistas musicales que leo en redes no publican contenidos que me parezcan dañinos para los jóvenes, desde luego.
No es necesario controlar todas las redes, sino aquellas que no respeten unos mínimos legales y éticos básicos.
Si tú quieres mirar un documento relativo a ti que está en la web del Ayuntamiento, o de Hacienda, entrar a la web de tu banco, te identificas con DNI electrónico, cl@ve, o como sea. Esto se puede hacer igual, sólo hay que ponerse a ello y sancionar de manera contundente los incumplimientos de la ley.
Australia y Francia ya van por delante de nosotros.

volviendo a la música, ayer mismo lo comentaba con un amigo que acaba de sacar disco con una discográfica de toda al vida, me comentó que había empezado a hacer demos en las que graba su parte de guitarra y algún programa le añade bajo y batería según sus premisas, y así lleva una pre-maqueta al grupo para los ensayos. Luego ya la banda toca a su manera.
Pero esto es usar la IA como herramienta de trabajo en un proceso intermedio, sigues controlando la letra, el esquema armónico, las melodías, y tu banda tocará los temas en directo como le parezca, a su manera y con su personalidad.
La cuestión es que la IA no suplante al músico, le decía yo que alguien se puede encontrar con que saca un primer disco que va muy bien, y al cabo de X tiempo, los productores sacan un segundo trabajo a nombre del grupo, usando como base el priemro y generando nuevas canciones por IA, que den continuidad a los temas anteriores.
Por eso me parece tan importante que haya una norma, primero entre músicos, por ética, y 2º a nivel legal en general, de declarar cuándo la música está hecha por IA, no es lo mismo si yo escribo una letra, unas armonías, toco la guitarra y el piano, un amigo canta, otro toca el bajo y otro la batería, que si toco 12 compases de guitarra y meto un solo de piano y el resto me lo hace el programa. No digo que no sea válido ni que haya que prohibirlo, sino que hay que "declararlo", y cada cual que tire por donde crea conveniente, pero sabiendo de qué va la vaina.
Ya estamos viendo que la IA puede suplantar a músicos lo bastante bien como para engañar a un cierto % de oyentes.
Uds. mismos...
Lo que no he visto todavía es IA haciendo jazz... aunque nunca se sabe...

#145   Ad hoc:  "Las redes sociales se están volviendo incompatibles con un sistema democrático saludable"
https://www.huffingtonpost.es/virales/el-rector-universidad-oxford-deja-frase-ultimo-anuncio-sanchez-escocer-mas-f202602.html

#145 suscribo hasta la última coma.

#146 El problema es que antes había unos pocos focos de información, cuatro periódicos y cuatro cadenas de TV, un par de estaciones de radio. Ahora con internet, y las redes es inmanejable. ¿Cómo podemos controlar la información? Esto se preguntan los partidos. Partidos de ambos lados ¿eh? Porque todos quieren abrir este melón.

Se entiende que lo de limitar el acceso de los chavales es una cosa buena, sí, pero controlar lo que hacen y dicen los adultos afecta a la libertad de expresión.
Un sistema democrático real no es saludable para los políticos. Nunca lo ha sido. Lo que aquí llaman un sistema democrático saludable probablemente no sea muy democrático.

Limitar y prohibir no me gusta. No te gusta la IA en la música, no la escuches. Que la usan en tal o cual disco, pues no lo compres, no vayas a esa gira. Si prohibimos la IA, vamos a prohibir también el autotune, los DAW, los formatos digitales, los servicios de streaming, los afinadores de clip, los vocoders, y todo lo que a mí no se me ajuste hoy.

Paco escribió:

Si prohibimos la IA

Que no es prohibir, Paco, que es saber si sí o si no. 
Que sea obligatorio declararlo (la parte puramente ética para mi está clara, faltaría la legal). Si algo está hecho por personas o por una maquinita de copiar.
Igual que hay leyes de copyright. 
Menudas trifulcas ha habido con los sampleos, al final suele ganar el sampleado, y por eso cada vez más hay reconocidas autorías de un puñao de gente, para evitar esos problemas de derechos de autoría.
Tenemos que darnos cuenta de que la IA "escucha" músicas anteriores y copia partes, con pequeñas variaciones programadas para que no sean exactamente iguales, luego las junta. Es una versión modernizada y extendida del "sampling", ergo tendría que estar regulada por ley, y los principales interesados serían los músicos más creativos y originales. 
¿Se habría puesto la IA a juntar los instrumentos que suenan en un disco de Oregon? Ni de coña, eso no es mainstream. Le pones 20 discos de Oregon y le dices, sácame el disco 21, que Ralph Towner ha palmado. Y a ver qué saca. 
Pero aún si te saca algo potable, no deja de ser una estafa, es como poner a un imitador a tocar temas de Hendrix, meter fritura de fondo y sacar un rollo como "esto es de una cintas de 1970 que han aparecido en un baúl". O es Hendrix o un imitador. La IA igual puede imitar a Hendrix, a saber cómo, pero jamás habría escrito los temas de Are you experienced?
Obviamente, para los músicos con escasa creatividad es un inventazo, sacan una cosa: mirad mi último tema. Amosnomejodas, que apesta a IA, habla claro: mirad lo que acabo de encargar a un programa de IA.

#148   Considero la IA una herramienta peligrosa en cuanto a que no está pulida ni controlada ni creo que debiera acceder a ella alguien de a pie, de momento; menos aún los menores de veinte años. Ciencia, I+D, profesionales de la investigación, gente con criterio, como fue la intención primigenia de internet antes de que alguien se diera cuenta del negocio que podría generarse con ella. Los humanos somos tremendamente egoístas y autodestructivos y cortoplacistas, fastidiamos lo que tocamos. La IA podría salvarnos de la autodestrucción, pero siempre habrá alguien que quiera ponerle un lacito y venderla para fines banales. No podemos resistir su avance, ha irrumpido en nuestra vida privada en los móviles e internet y no somos conscientes del daño que estamos generando con su uso popular masivo.
Respecto a la pintura, no puedo evitar acordarme del capítulo de Ella y sus maridos donde Paul Newman es asesinado por su máquina pintora.
Respecto a la música y la literatura, no veo que se deba prohibir nada, pero sí indicar que lo ha hecho Carmen Mola; no, va, que se indique qué participación de IA ha intervenido y cómo o dónde: generación de ideas, redacción, corrección, edición, interpretación o producción.

Este manual es muy interesante porque aporta otra perspectiva al proceso creativo con IA: 
GuíaBurros Guía de escritura creativa con IA

Es que no se trata solo de cosas ilegales, como el porno de menores o cosas así.
Se trata de la privacidad, la democracia y la libertad. Recomiendo ver este video, es largo, pero instructivo y preocupante. Real y actual. 


Ha sido utilizado en Gaza y lo está utilizando el ICE.  Se trata del sistema de cibervigilancia más poderoso del mundo.  Es una tecnología que recopila, cruza y analiza datos de personas con los que crea perfiles de quiénes somos, qué hacemos, incluso qué haremos. De modo que puede usarse para anticipar protestas, identificar a disidentes y generar un clima de terror. Y se está utilizando para eso.  Se está utilizando para imponer un Estado policial de vigilancia.  Es la tecnología para implantar el nuevo tecno autoritarismo.  ¿Qué es Palantir, y quién es su fundador, el controvertido millonario Peter Thiel? ¿Qué se esconde detrás una de las empresas de software de vigilancia más poderosas del mundo? Vuelven nuestros Radicales Libres, Helena Sardà y Oriol Erausquin, para destripar qué hay detrás de Palantir, sus sesgos, su relación con Donald Trump, y su influencia en todo el mundo, con Ekaitz Cancela, periodista y autor de “Utopías Digitales”, Anita Fuentes, investigadora en el Instituto de Investigaciones Feministas de la Universidad Complutense de Madrid, José Bautista, director de investigaciones periodísticas en la Fundación PorCausa y Judith Membrives, investigadora en derechos digitales y fundadora de Algorights. 
Carne Cruda.es

#151   Pues ese es el motivo por el que siempre he evitado tener redes sociales y perder el tiempo en ellas: que me perfilen y quién me perfila. Los clientes siempre se extrañaban de que no tuviera presencia en línea y sí manejara la suya.
Pertenezco a grupos de FB sobre tecnología musical, en los que entro de tarde en tarde solo para ver novedades, y este foro, que ya me está robando tiempo. Pero tampoco nos extrañemos tanto, El Gran Hermano siempre ha estado aquí, ahora está mutando con ayuda de la IA como lo hizo con internet, los móviles, la televisión, el periódico y los confesionarios; y la música pop y derivados (rock a la cabeza).

Paco escribió:

Partidos de ambos lados ¿eh? Porque todos quieren abrir este melón.

Manuel escribió:

Es una mentira que no se puedan controlar las redes.
Prueba a poner en fb una foto con un pezón al aire (aunque sea de un cuadro famoso pintado en el s. XVII) y luego me lo cuentas.

Lo de controlar la red es fácil. Lo de censurar todo se controla además por IA y en el fondo de sus deseos más oscuros, los políticos y grandes empresarios quieren ir al modelo Chino. 

Hemos llegado a un momento en que  el verdadero peligro es la manipulación de la percepción. Incluye uso de imágenes sin consentimiento, donde la línea entre hacer algo divertido o una barbaridad ya esta al orden del día. 

Una simple foto en el avatar y te la lían.... lo quito en un rato. 

#153   Me alegra mucho ver a Manuel de cuerpo entero, pero estoy temblando.
Edito para añadir que lo había visto sin audio. El acento de los protagonistas es lo que avisa de que es una IA.

EBR escribió:

este foro, que ya me está robando tiempo

Y el que te robará, uno que lleva desde 2014 por aquí...pero sarna con gusto no pica!

N456M escribió:

Una simple foto en el avatar y te la lían.... lo quito en un rato.

Ya lo estás quitando, por favor, vamos a llevarnos bien.
No tienes permiso para usar esa foto, y lo sabes, la próxima vez, usas una tuya, y todos contentos.