La IA generativa destroza el conocimiento (historia de los pedales)

Todos los estudiosos de cualquier metería deberían hacer lo que ha hecho Josh con este video, mostrar a la gente el peligro de usar los LLMs como las grandes corporaciones quieren que lo hagamos, como si fueran oráculos que reemplazan a los expertos y a las fuentes de conocimiento tradicionales.

Yo intento no hablar en foros como este sobre computación (que es a lo que me dedico), pero esta vez me lo salto.

Los LLMs son herramientas extremadamente útiles bajo supervisión, pero no son lo que las corporaciones (google, meta, anthropic, openAI, etc.) te dicen que son. No pueden reemplazar a un experto, no son fiables, tienen problemas inherentes e irresolubles (p. ej. alucinaciones), etc.

Lo más grave: son armas de destrucción masiva para la educación y el conocimiento.

Coincido 100%.
Además en esta epoca en la que impera cada vez mas el alardear de ignorancia, profileracion de sectores anti-ciencia varios, el mandar el pario cualquier atisbo de pensamiento critico, etc... es el remate final.

Por no hablar de su rentabilidad
Hay una cosa que quieren meternos aparte de miedo, que es la IA, porque les conviene y porque después de tanta pasta invertida, no se puede dejar caer.
También te digo que si amplías el foco y le sumas BigData a la ecuación, descubres que el tecnofascismo es algo más que el deseo de 4 mil millonarios locos. Basta con leer el manifiesto de Palantir para ver lo que se viene más pronto de lo que creemos

También coincido con vosotros. El entrenamiento automático permite que se cuelen errores accidentales o por ignorancia del que aporta los datos que ha leído al vuelo en una página de Wikipedia escrita por otro ignorante del tema o en un vídeo de vete a saber quién. Y el mayor peligro reside en la desinformación premeditada de los que, por hacer unas risas con sus amigotes o en el trabajo, introducen barbaridades; y no digamos los que lo hacen por motivos políticos o por realizar marketing negativo contra entidades o marcas de la competencia.
Estos errores de veracidad conduce a los del Big Data manejando información que resulta inútil por corrupta o, incluso, perjudicial según qué aplicación final vayan a darle.
La manipulación consciente del contenido en Wikipedia ya pasó de escandaloso a criminal hace tiempo. He intentado introducir información sobre una escritora con siete libros publicados y más de doscientos editados con su sello editorial, que ha ayudado a Mendoza y otros cuando comenzaban, que ha salido en programas documentales sobre criminología en RTVE, y en todas las ocasiones me han respondido dos bibliotecarios que no aceptan currículos de nadie. Casualmente, al poco, veo que han subido el CV infladísimo de una arquitecta que conozco cuyo único mérito fue casarse con el hijo del que pintó el techo del Teatro Español. Buscas un poco y encuentras que todos los tertulianos de TV con página en Wikipedia han pagado para tener su paginita personal y que la mayoría de los bibliotecarios de Wikipedia España no poseen ni estudios adecuados.

Tecnofascismo? 

Explícame que es porque si no voy a tener que preguntárselo a ChatGPT

agiant escribió:

Lo más grave: son armas de destrucción masiva para la educación y el conocimiento.

No estoy de acuerdo. Son una herramienta. Depende de la gente el usarla con criterio y responsabilidad. 

En malas manos son una mierda, en buenas manos son un avance tecnológico espectacular capaz de ayudar a muchísima gente.

#5 investiga lo que dice Pete Thiel y la mafia de Paypal
Cuando digo investiga , puedes quedarte en una búsqueda en Google. Que preferís, democracia o libertad?

Yo la uso a veces cuando me quedo atascado en algún código...normalmente tras varios intentos me suele ayudar a ver donde la he piciado. 

Una vez se me ocurrió preguntarle por un patch rollo M-Clan, a ver que hacía y fue un absoluto desastre. 

Si es tan sencillo como buscar en cualquier parte de internet Nick Mason y coches de carreras, aparecen resultados más o menos cercanos a tu interés. Si realizas la búsqueda mediante un ordenador con las cookies desactivadas, raro que las tengas totalmente desactivadas, aparece un resultado que no tiene nada que ver con tus búsquedas anteriores. Si realizas la búsqueda en el móvil o la tableta o la SmartTV, vas a estar recibiendo información referente al asunto en cada búsqueda posterior cuando quieras ver o comprar algo. ¿Brújería? No, ingeniería social de todos los agentes involucrados en tu conexión a internet, tu terminal, buscadores, IA, Alexa, Siri y su prima la del pueblo.
Ahora, aplica eso a grandes corporaciones con capacidad de influencia en política, sanidad, defensa, etc.

Ahora, meto este vídeo que me ha salido buscando Nick Mason y coches de carreras, que es lo que quería meter en realidad para Valentino Senna con este comentario como excusa.

La IA bien usada puede ser una gran ayuda, pero en general creo que no se usará bien y acabará aborregando aún más al personal. 
Deberíamos de sabotearla para que acabase cayendo por sí misma. Es nuestra única oportunidad de acabar con skynet, en breve será tarde.
Sayonara bayby.