Conversation

Notices

1. Elisabet Roselló (lisrosello@mastodon.social)'s status on Wednesday, 29-Mar-2023 19:37:33 UTC Elisabet Roselló

   ¿Os puedo contar otra historia grave de la movida de las IA? Vais a ver seguramente, desde Reuteurs a otros medios, que un grupo de expertos han hecho una carta abierta pidiendo que se pause el desarrollo de las IAs no porque generen problemas ambientales o se tire de programadores en otros países malpagadísimos. Sino porque amenaza la humanidad etc

   Pues quien ha emitido la "Carta Abierta" es Future of Life de la que... Musk entre otros forma parte

   https://www.reuters.com/technology/musk-experts-urge-pause-training-ai-systems-that-can-outperform-gpt-4-2023-03-29/?utm_source=Business+Insider+Espa%C3%B1a&utm_campaign=fe97dba6ef-EMAIL_CAMPAIGN_2018_10_19_COPY_01&utm_medium=email&utm_term=0_74c16e9a4a-fe97dba6ef-118260061

   #IA #AI #ChatGPT

   • Toni :mastodon: repeated this.
   • Elisabet Roselló (lisrosello@mastodon.social)'s status on Wednesday, 29-Mar-2023 19:37:40 UTC Elisabet Roselló

     in reply to

     Para quien no lo sepa, Musk es también co-fundador de OpenAI (ChatGPT, Dall-E...)

     Pues bien. ¿Qué dice la carta y qué promueve Future of Life, que, ojo aquí, además usa OpenAI desde sus inicios para justificar sus productos?
     Que las IA amenazan a la Humanidad quitándoles el trabajo y estarían cerca de crear nuevas "mentes autoconscientes" *si se hace mal*

     Proponen una pausa de 6 meses para todos los actores

     El "grupo de expertos de la Carta Abierta" es el think tank de OpenAI

     Toni :mastodon: repeated this.
   • Elisabet Roselló (lisrosello@mastodon.social)'s status on Wednesday, 29-Mar-2023 19:38:08 UTC Elisabet Roselló

     in reply to

     Noticia de 2015. Musk no puede ponerse como presidente, pero... https://futurism.com/elon-musk-backed-future-of-life-institute-gives-out-7-million-in-funding-to-keep-ai-safe
     Puedes impulsar perfectamente think tanks usando esta fórmula en la que te colocas como advisor para evitar problemas de "intereses cruzados"

     En el mundo Public Affaires (como muestra el medio "Politico") es vox populi que es el grupo de lobby de Musk https://www.politico.eu/article/meet-the-musk-backed-ngos-trying-to-save-europe-from-bad-ai/

     Toni :mastodon: repeated this.
   • Elisabet Roselló (lisrosello@mastodon.social)'s status on Wednesday, 29-Mar-2023 19:38:28 UTC Elisabet Roselló

     in reply to

     Lo más grave es que este think tank opera como promotor de un discurso que está calando:
     1/ que la IA está cerca de tener conciencia e inteligencia total equivalente a los humanos, cuando en verdad está lejísimos, por ejemplo, de tener capacidad de contextualización y semántica -solo programa desde sintaxis. Esto incluye rebajar gota a gota qué se define como "inteligencia humana". Como cuando el CEO de OpenAi, Altman, dice que los humanos somos "stochastic parrots"

     #IA #AI #ChatGPT

     Toni :mastodon: repeated this.
   • Elisabet Roselló (lisrosello@mastodon.social)'s status on Wednesday, 29-Mar-2023 19:38:34 UTC Elisabet Roselló

     in reply to

     2/ deformar y desviar la atención de una pedagogía útil de qué es y cómo funcionan las IA, ensalzándolas a entidades místicas. Son complicadas sin duda, pero sus principios son menos complicados de lo que puede parecer
     3/desviar la atención de problemas estructurales reales, hacia problemas vestidos de "existenciales" (basado en una idea macarrónica de "humanidad" muy blanca, y de libertad individual), el "longtermism" https://www.vox.com/future-perfect/23298870/effective-altruism-longtermism-will-macaskill-future

     #IA #AI #ChatGPT

     Toni :mastodon: repeated this.
   • Elisabet Roselló (lisrosello@mastodon.social)'s status on Wednesday, 29-Mar-2023 19:38:39 UTC Elisabet Roselló

     in reply to

     Resultado: con todo el motor de dinero y talento a disposición (p.e. ya hacen sus cosas en Bruselas, Washington DC etc; notas de prensa disfrazadas de "cartas abiertas de expertos" y más etc) están volviendo más opaca la comprensión de las IAs, lo cual conlleva a ver más opacas las implicaciones e impactos, y a tener que confiar en los "expertos" que nos venderán un futuro turbo-malthusianista

     Toni :mastodon: repeated this.
   • Elisabet Roselló (lisrosello@mastodon.social)'s status on Wednesday, 29-Mar-2023 19:39:00 UTC Elisabet Roselló

     in reply to

     Hilo de Emily M. Bender sobre la carta, mejor explicado por alguien que de verdad sabe https://dair-community.social/@emilymbender/110104540950908338