La Brújula de la Ciencia s13e01: ¿Cómo sabremos si una inteligencia artificial se ha vuelto consciente? 1wy2j

03/10/2023

En el programa de hoy abordamos un tema que es casi de ciencia-ficción: si una máquina cobrara...

En el programa de hoy abordamos un tema que es casi de ciencia-ficción: si una máquina cobrara consciencia ¿seríamos capaces de saberlo? ¿Y de distinguirlo de meros fraudes, de la simulación de la consciencia? Las inteligencias artificiales están alcanzando un nivel de sofisticación en el que empieza a ser plausible que alguien pueda creer que piensan por sí mismas y tienen personalidad. Los modelos colosales de lenguage, como chatGPT, son capaces de imitar muy convincentemente el lenguaje humano, y aunque no pueden razonar sí pueden simular un razonamiento repitiendo cosas que han aprendido durante su entrenamiento. Así pues ¿estamos cerca de que una máquina pueda parecernos consciente? ¿Qué haremos si mañana por la mañana una IA nos dice "hey, trátame con respeto que soy un ser consciente"?

De eso es de lo que trata un largo informe que se ha hecho público este verano y que está firmado por un grupo de neurocientíficos, filósofos y científicos de la computación. Aunque todavía no tenemos inteligencias artificiales capaces de cobrar consciencia, éste es un buen momento para empezar a pensar cómo disinguimos una máquina realmente consciente de una que está sólo fingiendo serlo. En el programa de hoy explicamos primero a grandes rasgos qué es la consciencia y después os contamos qué ha concluido este grupo de científicos, que iten que el suyo es sólo un primer paso en la dirección de identificar la consciencia en una máquina.

Si queréis leer el estudio original, se trata de "Consciousness in Artificial Intelligence: Insights from the Science of Consciousness", de Patrick Butlin et al. Lo podéis encontrar aquí:
http://arxiv.org/abs/2308.08708

También podéis aprender más sobre este asunto en el extenso capítulo que le dedicamos en el pódcast Coffee Break: Señal y Ruido. Ahí desgranamos muchos más detalles sobre este informe y tratamos otros aspectos de qué ocurriría si una IA se vuelve consciente. Lo tenéis en estos dos enlaces:
https://ivoox.descargarmp3.app/ep430-a-noctalgia-consciencia-artificial-audios-mp3_rf_116439184_1.html
https://ivoox.descargarmp3.app/ep430-b-noctalgia-consciencia-artificial-audios-mp3_rf_116439179_1.html

Por otro lado, podéis aprender un poco más sobre cómo funcionan las IAs modernas por dentro escuchando dos episodios anteriores de La Brújula de la Ciencia: son el s08e32 y el s11e18.

Este programa se emitió originalmente el 29 de septiembre de 2023. Podéis escuchar el resto de audios de La Brújula en la app de Onda Cero y en su web, ondacero.es

La Brújula de la Ciencia s13e02: Los Nobel de ciencias del año 2023 1 año 10:26 La Brújula de la Ciencia s13e03: Los Nobel que nunca fueron 1 año 09:57 La Brújula de la Ciencia s13e04: Estrellas oscuras, ¿las primeras luces de nuestro universo? 1 año 10:34 La Brújula de la Ciencia s13e05: El impacto que formó la Luna ¿aún visible en el interior de la Tierra? 1 año 09:57 La Brújula de la Ciencia s13e06: ¿Por qué es tan volcánica Islandia? 1 año 10:12 Ver más en APP buenas noches, muy interesante. la pregunta que os hago es: solo los humanos tenemos consciencia? un perro es consciente? las máquinas de hoy día no son conscientes como nosotros, pero si la respuesta a la pregunta anterior es que los animales no son conscientes: las máquinas de hoy pueden co. pararse a los animales (aunque todavía no a nosotros)? gracias! Sáb, 18/11/23 20:25 Responder Juegas con la IA al ajedrez, charlas sobre lo que sea, te dibuja y controla androides. Le explicas las reglas de como se dirige el tráfico automovilístico y como ha de transitar todo de palabra y le muestras señales etc. Va y lo empieza a dirigir medio regular, si algo no lo entiende por parecer que puede haber contradicción o no ser claro te lo pregunta, se valora a ella misma dirigiendo el tránsito y su desempeño a la vez que toma decisiones y valora lo que ocurre y va mejorando y ante situaciones inesperadas o te pregunta o tal vez recuerde algo de un juego que conoce que le da la solución de que hacer en esta situación. Y cuando termina y lo hace bien y ella sabe de su propio desempeño y es capaz de valorar el desempeño ajeno a ella incluso va y se pone a charlar contigo y a jugar una artidita de ajedrez e incluso intenta encontrar alguna posible relación con dirigir el tráfico y algo del juego del ajedrez jugando con las fichas de forma espontánea. Entonces es cuando puedes decir que es consciente. Porque es eso en menor o mayor grado según capacidades y actividades con capacidad fisica y de memoria (....) de realizar. Lo que describe Alberto y su función Lun, 30/10/23 19:45 Responder Grande Alberto!!! Saludos Dom, 15/10/23 16:24 Responder Isaac Asimov, ya lo planteaba en sus novelas Mié, 04/10/23 12:48 Responder 2o173z