No permitir "postear" contenido generado por IA

VI escribió:

Infórmate compi... No hay código, no hay algoritmos, no hay scripts...

Si es que estoy informado, no hay aplicaciones sin código, no existe la magia del cine en una caja negra que odia a los negros más que a los blancos. El odio lo experimentan y aplican los humanos con los datos que vuelca el programa. Cada informe devuelto por el programa requiere informes de muchos eslabones del sistema judicial y penal y un examen del propio recluso con ciento y pico preguntas diseñadas expresamente para evitar que engañe al programa. 
Lo que sucedió al principio fue que le introducían los datos de forma muy arbitraria para aplicar ese sesgo del que hablas, pero la programación era totalmente neutra. En cuanto un periodista levantó la liebre, todos los medios entraron a saco con el sensacionalismo habitual para crear noticia y crucificar la aplicación. 

EBR escribió:

Si es que estoy informado, no hay aplicaciones sin código, no existe la magia del cine en una caja negra que odia a los negros más que a los blancos.

No me has entendido por partida doble.
He dicho que el sesgo de la máquina refleja el sesgo de los humanos.

Lo de "infórmate" era por como funciona la IA, se sabe lo que hace, pero no cómo lo hace, quizá no te supe interpretar.

Saludos!

#182   Claro, el sesgo ya reside en los datos que le introducen al programa con intención de filtrar los resultados a gusto del que quiere cometer sus maldades. Pero el programa no es ni santo ni malvado, solo procesa los datos que le introducen. 
Y se sabe cómo funciona la IA, no es magia sino programación. El problema que nos enfrenta aquí, compañero, es el misticismo con el que rebozan las nuevas tecnologías los periodistas desinformados que viven de fabricar noticias sensacionalistas donde solo hay un dato novedoso.
Ten en cuenta que, para ser periodista de actualidad -es decir, de sensacionalismo que atraiga la atención de un público que huye de los medios convencionales-, no te exigen demasiados estudios, ni siquiera un título universitario. Ahí tienes las portadas de los diarios tradicionales, con textos mal redactados y cuajados de faltas de ortografía y errores gramaticales.
A esto, suma las ansias de buscar escándalo moral por parte de los ofendiditos y contestatarios pesimistas de turno que viven derramando su amargura con todos en lugar de aportar soluciones. Es como el juego del teléfono roto.
Repito que, lo que nos debería preocupar de verdad, aquí y ahora, es que el sistema informático VíoGen dé la alarma sobre un indeseable peligroso y las autoridades no reaccionen a tiempo. 

EBR escribió:

No existen las cajas negras misteriosas, son tontunas de pelis y de medios sensacionalistas.

A ver...nadie enseñó ni programó a PaLM para traducir Bengalí, ni a GPT-3 a programar en Python y C++. nadie programó el 'miedo a la muerte' en LaMDA, nadie escribió las reglas de lógica que usa GPT-4 para aprobar no sé qué examen de abogacía, los ingenieros de OpenAI no programaron la capacidad de razonar, cuando olvidaron decirle a Bob y Alice que para negociar entre ellos debían usar gramática inglesa estos 2 agentes de IA desarrollaron un lenguaje propio, una suerte de taquigrafía que era basura para un humano pero precisa para ellos...

Si el código fuera la respuesta, no habría miles de científicos intentando descifrar hoy qué ocurre dentro de esa caja negra, y gente realmente preocupada porque esto se está desarrollando sin control...

Saludos!

EBR escribió:

los medios convencionales

eso qué cojines es???

Saludos!

#184   Los demás también sabemos copiar y pegar datos a voleo. Como las posiciones se enconan y no avanzamos, permíteme que culmine este debate con el siguiente colofón: la mejor definición de lo que es una caja negra en programación, según los símiles de Jen.
The IT crowd UK, antología de tópicos sobre frikis tecnológicos.

Yo le preguntaria a la IA por temas del Bad Bunny a ver si se vuelve loca.

#187
De momento el loco del pelo naranja lo ha flipado...

Y yo que creí que el Benito nunca podría caerme bien...

https://www.eldiario.es/internacional/trump-estalla-bad-bunny-actuacion-super-bowl-nadie-entiende-palabra-dice-tipo-baile-repugnante_1_12973860.html

La “caja negra” de los modelos de IA no es tan negra. Es más bien un compendio de cálculo estocástico y recursivo que supera de manera desmesurada la capacidad humana de ponderación, como muchos inventos del hombre que lo superan en otras áreas específicas, especialmente físicas.

El hecho de que un modelo matemático “casi hable” comenzó con las cadenas de Markov, hace ya cerca de 80 años. El día que ves que un modelo tan sencillo, pero altamente iterativo, casi habla, te das cuenta de lo extremadamente limitado que es el sistema de comunicación humana.

La IA hace algo que, a primera vista, parece difícil, pero no hace magia, y el ser humano peca de romanticismo antropológico. Por eso los resultados de la IA nos sorprenden tanto.

N456M escribió:

el ser humano peca de romanticismo antropológico. Por eso los resultados de la IA nos sorprenden tanto.

Sobre todo si las empresas que desarrollan y tienen una pasta invertida en IA y tratan de que no explote la burbuja y sacar rentabilidad finalmente de eso
Eso ayuda a que se romántice en los medios y se le atribuyan cualidades milagrosas. Si no recuerdo mal, sólo las 3 más grandes en IA, tienen previsto invertir 200.000 millones de pavos este año. Lo mismo que el PiB de un país como Mexico. 
Hay mucho en juego ahí metido.

N456M escribió:

La “caja negra” de los modelos de IA no es tan negra. Es más bien un compendio de cálculo estocástico y recursivo que supera de manera desmesurada la capacidad humana de ponderación, como muchos inventos del hombre que lo superan en otras áreas específicas, especialmente físicas.

La gente de Anthrophic son de los más avanzados o que están invirtiendo más en descifrar su IA para mantenerla segura, no son los únicos, pero hay otros actores en esto que están ciegos por la pasta y el poder que se avecina.

EBR escribió:

Los demás también sabemos copiar y pegar datos a voleo

también se puede leer un poquito... No, no es negra la caja...
P'a los dos:
que negra era mi caja
qué caja más negra tengo

Y esto son publicaciones abiertas, lo que tiene que estar viendo esta gente tras bambalinas, (lo que no nos cuentan), tiene que ser de flipar.

Saludos!