(Sintonía animada)

¿Qué tiene que hacer una máquina

para que la consideremos inteligente?

Que pudiera caminar, correr... tendría que saber pensar.

Percibe el entorno, aprende y se adapta.

Que tenga por lo menos sentimientos, una cualidad de los humanos

y no de las máquinas. -Una máquina no se puede relacionar

igual que nosotros. -Sí se puede, no por ahora.

(Sintonía animada)

(Música tranquila)

¡Hola, "claners"! Estamos en el colegio

Obispo Nájera, en Logroño. Aquí no hay catedral,

pero sí concatedral: Santa María la Redonda,

que curiosamente no tiene nada de redonda.

Como Logroño está en pleno Camino de Santiago,

tiene una plaza dedicada al juego de la oca,

que se supone inventaron los templarios

para guiar a los peregrinos a Compostela.

Si te parece antiguo es porque no has ido

a buscar huellas de dinosaurio en los alrededores.

Por estas tierras caminaron plesiosauros e iguanodontes.

En el colegio miran al futuro. Han ganado la certificación

de "colegio Google" y dan clases de robótica.

Seguro que les ayuda con el tema de hoy.

Empezamos un nuevo programa de "Aprendemos en Clan. El debate".

Nuestros protagonistas tienen diez y once años,

pero entre todos suman 171.

Entre sus mascotas hay seis perros, cinco gatos, una tortuga,

un hámster, dos peceras de peces y un bicho palo.

El sonido que más dentera les da es el chirrido de la tiza

contra la pizarra. Y lo que más les gusta

hacer en el recreo: charlar y jugar con la pelota.

Hoy vamos a hablar de una tecnología casi de ciencia ficción:

la inteligencia artificial. ¿Qué es? ¿Para qué sirve?

¿Cuáles son sus límites? Y sobre todo si es más inteligente

que la de los humanos. Pero antes,

calentamos motores con la siguiente pregunta:

¿Qué es lo más alucinante que has visto hacer a una máquina?

Lo más alucinante es tomar decisiones por un humano.

-Ha ganado un campeonato de ajedrez

tan solo estudiando cinco horas.

-He visto una máquina que ha cocinado.

-Tú llegas a las ocho a tu casa y pones la calefacción.

La máquina lo hace a esa hora.

(Sintonía animada)

Está claro que les vemos muchas posibilidades a las máquinas.

Para descubrir sus intríngulis hemos invitado al programa

a Cristina De Propios. Se dedica a hacer arte

a través de la inteligencia artificial.

Y a crear robots que nos ayuden a ser más creativos.

Ha dado charlas en eventos tan importantes

como el Techfest de Madrid o la European Robotics Week.

Y colabora con la plataforma Artificia,

que promueve la creatividad a través de la inteligencia artificial.

Y aquí va un secreto suyo:

Casi siempre lleva los calcetines desparejados.

Cristina, bienvenida y muchas gracias por acompañarnos.

A vosotros.

Hablaremos de tu especialidad: la inteligencia artificial.

Cuéntanos cómo, cuándo, dónde... descubres que lo tuyo

es la informática. Espera. Sé que as traído un objeto

muy especial. ¿Lo queréis ver?

(ALUMNOS) ¡Sí!

Pues fijaos, está en esta caja. Pesa un poquito, eh.

A ver qué contendrá. ¿Lo descubrimos?

(ALUMNOS) Sí.

Vamos a ello.

¿Esto qué tendrá que ver con la inteligencia artificial?

Cuando era pequeña me encantaba dibujar y esculpir,

y los cómics, cine y literatura de ciencia ficción,

donde aparecían un montón de robots y autómatas

que sabían hacer cosas como los humanos e incluso más.

Mi padre, que era carpintero y ebanista,

tenía un montón de trozos de madera en su fábrica.

Y yo, como hobby, iba por las tardes

a crear estructuras. Y se me ocurrió complicarlo más.

Así que introduje en esas estructuras

mecanismos para que empezaran a moverse.

Entonces me metí de lleno en el campo de la robótica,

que como sabréis, gracias a la inteligencia artificial

ha podido mejorar hasta llegar al punto

de que muchos periódicos anunciaban que los robots

podían pintar y tocar instrumentos,

y hacer un montón de cosas que ni me imaginaba.

A mí que me encantaba el arte dije: "Esto es lo mío".

Me enamoré de la inteligencia artificial

y acabé haciendo arte con ella.

Arte e informática, una combinación llena de posibilidades.

Hoy con tu ayuda vamos a desentrañar

de qué va esto de la inteligencia artificial.

Y tengo una pregunta para vosotros:

¿Sabéis cuánto es dos más dos?

(TODOS) Cuatro.

Vale... ¿y si os digo cuatro por ocho?

(TODOS) 32.

Vale, ¿y 15 por 5?

¿15 por 5?

(ALGUNOS) 75.

75, vale.

¿Lo habríais calculado más rápido con una calculadora?

(ALGUNOS) Sí.

He visto que hasta ahora no ha habido mucho problema,

pero si os digo por ejemplo 5.473...

por 6.220... ¿podríais?

No...

¿Y una calculadora?

Sí.

¿Entonces qué pasa?

¿Las calculadoras son más listas que vosotros?

Sí...

¿Porque una máquina haga muy bien una sola cosa como calcular,

significa que es inteligente?

Yo creo que no, porque todo lo que saben

es lo que les hemos enseñado nosotros.

Y hemos podido hacer eso porque antes de que lo sepan

las calculadoras lo sabíamos nosotros.

-Una calculadora solo está especializada en hacer matemáticas

y las operaciones que tú le digas.

Pero si por ejemplo le dices que lea, no puede leer,

porque no sabe.

Por ahí por donde apuntas: ¿Qué tiene que poder hacer

una máquina para que la consideremos inteligente?

Yo creo que podría ser como un humano,

que pudiera leer, caminar si él quiere, correr...

También tendría que saber pensar.

Pensar... ¿Cristina?

¡Qué de cosas!

¿Tiene que hacerlo todo a la vez para que sea inteligente?

No sé.

Vamos a ver qué más opináis. ¿Qué debe tener una máquina

para que la consideremos inteligente?

Por aquí, Sergio.

Que tenga por lo menos sentimientos, porque es una cualidad que tenemos

y las máquinas no.

Apuntas que tenga sentimientos para que la consideremos inteligente.

Gael decía lo de pensar. ¿Qué más debería tener?

La inteligencia para saber hacer cosas por sí sola

y ayudarte cuando lo necesitas.

Alguna idea más, que todo está muy bienvenido.

Cristian.

Para que fuera inteligente tendría que poder prevenir,

que poder pensar qué puede pasar

para así hacer que no pase o si es bueno, que pase.

Vale.

Cristina, danos pistas de qué tiene que tener una máquina inteligente.

Qué tiene que tener para que sea inteligente...

Si nos centramos en lo que sería la inteligencia humana,

un sistema inteligente tendría que percibir

del entorno cosas, aprender de esas cosas

y adaptarse al entorno.

¿Cómo podríamos averiguar si un sistema

o una máquina es inteligente?

Una opción sería ver si cumple con estos requisitos,

si puede hacer todas estas cosas.

¿Vale?

¿Conocéis alguna máquina que tengáis en casa

que cumpla con estas tres cosas?

Por ejemplo Alexa se adapta a tus gustos,

a tus horarios...

Vale, sí.

Alexa tiene en su sistema técnicas de inteligencia artificial.

Reconoce tu voz... que es diferente a la de otro,

entonces algo está aprendiendo ahí.

Sí.

¿Una máquina puede hacer cualquier cosa que hace un humano?

No puede hacer las mismas cosas que un humano,

porque un humano puede hacer amigos,

muchísimas cosas más, y una máquina no puede.

Valeria, tu apuntas la amistad.

¿No puede ser amiga nuestra una inteligencia artificial?

No, porque las máquinas no tienen sentimientos.

Vale, a ver, Daniela.

Una máquina no se puede relacionar igual que nosotros.

(NO ENTIENDE) No se puede...

Relacionar. Como ha dicho Valeria no tiene sentimientos,

entonces no saben qué es relacionarse casi.

¿Estáis todos de acuerdo en eso? ¿No se puede tener

una relación más personal con una inteligencia artificial?

No es exactamente igual, pero sí se puede.

Y a lo otro de si pueden llegar a ser

más o menos igual que nosotros: no por ahora.

¿Y qué creéis que pasaría con la creatividad?

¿Puede una máquina pintar un cuadro,

escribir un libro, componer una canción?

Sí, porque mezclas los poemas de autores muy buenos

y podrías componer un poema mucho mejor.

-Pienso que para algunas personas sí podría ser mejor y para otras no.

Por ejemplo a mí me pueden gustar los poemas de amor

y a Cristian por ejemplo los poemas de niños pequeños.

Seguiría siendo una cuestión de gustos entonces.

¿Pero crees que el hecho de que sea una inteligencia artificial

influye en que te guste más o menos?

No.

-Yo creo que por ejemplo sí pueden escribir un libro

pero no sería del todo creativo, porque al final

sería una mezcla de muchos, porque ellas no hacen

un verso que ellas han inventado, están cogiendo un verso

de palabras que ya son de otros versos.

Entonces no sería un poema del todo creativo,

porque ya lo habría hecho gente solo que ella lo ha mezclado

para hacer uno nuevo.

-Por ejemplo lo de los poemas...

muchas veces los poetas suelen expresarse

con sentimientos, y las máquinas no tienen sentimientos,

entonces igual un poema no. Y como decían Vega y Gael,

si no hay mucha creatividad puede que no quedase muy bien.

Parece que humanos y máquinas pensamos de manera diferente.

¿Por qué? Para eso deberíamos saber

cómo funciona la inteligencia artificial.

Al navegar por internet, los algoritmos se fijan

en los sitios que visitas para intentar enseñarte

cosas parecidas que ya saben que te gustan.

El problema es que también te ocultan la información

que creen que no te interesa o va contra tus opiniones.

Esto se llama "filtro burbuja". El algoritmo hace esto

sin pedirte permiso, así que acabas creyendo

que lo que tú encuentras en internet es toda la realidad.

Y por eso hay gente que cree que la Tierra es plana.

Así que la inteligencia artificial va tomando decisiones,

aprendiendo y evolucionando. Hay que decir que no está presente

en todas las máquinas, y a veces no es fácil de distinguir.

Así que ahora se trata de ver qué es inteligencia artificial y qué no.

Por ejemplo, en una fábrica de galletas

o de frascos de cristal o algo, hay una máquina

que coge las cosas y las lleva.

Eso sería inteligencia artificial, porque la han programado para eso.

-Lo que dice Daniela no es inteligencia artificial,

porque si tú la estás programando no decide ella misma lo que hace.

Tú estás diciéndole lo que tiene que hacer.

-Pero eso el principio. Tú le vas mandando...

Igual las 50 primeras veces le dices:

"Coge una manzana, si ves que está bien

la pones en una caja, y si no está bien en otra".

Y le enseñas fotos para diferenciar

manzanas buenas de manzanas malas.

Vale...

Tú le vas indicando las primeras veces,

pero luego, de haberlo repetido tantas veces,

ya lo va haciendo solo.

-En muchos videojuegos, cuando no hay jugadores suficientes,

la propia máquina crea esos jugadores

y saben jugar a ese juego. Pero por ejemplo,

las pones después en otro juego y ya no saben jugar,

porque solo están especializadas para jugar a ese juego.

-Este ejemplo es muy típico: en el FIFA,

en cualquier juego de deporte, al principio es muy fácil,

pero se va haciendo más difícil hasta un punto que la máquina

ha aprendido de ti y es como tú o mejor.

Entonces se sabe tus trucos y todo

-A veces en el parchís por ejemplo no está bien que una máquina

aprenda de ti, porque si tú lo haces mal

le vas a enseñar mal.

Quien programa esa máquina influye totalmente

en el resultado de la tarea, ¿no?

Sí, porque eres tú la que le está enseñando a jugar mal.

Lucas.

Te digo lo contrario:

¿Y si tú eres muy bueno en esa cosa y la aprende muy bien?

Sergio, va para ti la pregunta.

A ver, coge el micro, Sergio.

Ya, entonces sabría jugar mejor que tú,

pero si tú juegas muy mal igual puede aprender a jugar bien,

¿pero y si aprende a jugar tan mal como tú?

-Aprenderá a jugar de otra persona mejor.

-¿Pero si eres tú el único que está jugando con esa máquina?

Porque si juegas por ejemplo contra un bot,

eres tú el que está jugando contra el bot.

-Ya habrá ocasiones de aprender.

Ahí tienen un buen debate Lucas y Sergio.

Cristina, estamos viendo que realmente genera dudas

saber qué máquinas funcionan con inteligencia artificial.

Danos algún truco.

Es muy difícil por lo que os comentaba antes.

Muchas de las veces dicen que algo tiene inteligencia artificial

cuando en realidad no lo tiene. También es difícil de saber

porque si nos fijamos en lo que hemos dicho:

Percibe del entorno, aprende y se adapta.

Muchas veces aprende y ya no se adapta más.

Hace lo que tenía que hacer y ya está.

Es muy difícil de saber.

¿Y esta inteligencia artificial piensa igual que nosotros?

¿Cómo toma decisiones?

Vamos a descubrirlo jugando a meternos

en el cerebro de las máquinas. ¿Os apetece?

(TODOS) Sí.

O cuento la dinámica. Chicos, chicas,

os vamos a exponer una serie de casos reales

en los que una inteligencia artificial

tuvo que tomar una decisión. Y sin deciros cuál fue su decisión,

vamos a preguntaros qué es lo que haríais

y ver si coincide o no.

¿Estáis preparados? Pues vamos allá.

El primer caso:

Tenéis que traducir la siguiente frase:

(LEE EN INGLÉS)

¿Cómo lo vamos a traducir? Voy a daros tres opciones:

A: "La enfermera y el médico llamaron al siguiente paciente".

Opción B: "El enfermero y la médica llamaron al siguiente paciente".

Y opción C: "El/la enfermero/a y el/la médico/a,

llamaron al siguiente paciente".

A ver, opción A.

Vale... opción A.

Opción B.

Vale. Y opción C.

Pues está un poco repartido.

Fijaos, la inteligencia artificial escogió la respuesta A.

Google Translate sigue traduciendo

con estereotipos de género, porque lo que hace es comparar

millones de páginas bilingües y elegir la traducción más común.

Y los seres humanos siguen traduciendo "nurse" en femenino

y "doctor" en masculino. Vamos con el segundo caso:

Eres médico o médica y estás atendiendo a una mujer

que tiene síntomas extraños que nadie consigue curar.

¿Para diagnosticarla tú qué harías?

Opción A: "Analizas sus síntomas y le diagnosticas

la enfermedad que más o menos coincida con ellos".

Opción B: "Analizas sus genes y los comparas

con los 20 millones de personas".

Opción C: "Consultas con otros médicos

a ver si entre todos conseguís averiguar qué le pasa".

Manos arriba. ¿La opción A?

Opción B.

¡Guau, vale! ¿Y C?

Vuelve a estar bastante repartido.

En este caso, la inteligencia artificial escogió la B.

En Japón, la inteligencia artificial salvó la vida de una mujer

analizando sus genes. Los médicos humanos

le diagnosticaron la solución más probable

y no la que coincidía con todos sus síntomas,

y se equivocaron. Vamos con el tercer caso:

Sospechamos que el cuadro de Picasso que vamos a comprar

podría ser una falsificación. ¿En qué nos fijamos

para decidir si es auténtico o no?

La opción A: "En los colores que usa".

Opción B: "En la pincelada".

Y opción C: "En el tema del cuadro".

Manos arriba. ¿La A?

Nadie, con la A ninguna mano levantada.

La B, la pincelada.

Una gran mayoría. Y la C, en el tema del cuadro.

Vale, sobre todo mayoría en la B.

En este caso coincidís con la inteligencia artificial

porque en la Universidad de Rutgers hay una inteligencia artificial

capaz de reconocer las pinceladas de Picasso,

de Matisse y de Modigliani. Probándola identificó

todos los cuadros falsos que le pusieron delante.

Analizando, atención, solo una pincelada.

Mejor que cualquier experto.

En este caso, Cristina, la inteligencia artificial acertó.

Pero no siempre es tan lista, ¿no?

¡Qué va! Hay veces que confunde animales.

Por ejemplo, si solo le hemos dicho

que el gato tiene las orejas picudas,

bigotes y pelo... seguramente lo pueda confundir

con otros animales que sean parecidos, como un tigre.

Entonces...

muy lista no es.

¿Os apetece seguir jugando?

A veces interpretar lo que vemos es difícil,

y no solo para las máquinas. Por ejemplo, ¿qué ves en la imagen?

¿Piernas o salchichas?

Las decisiones que toma la inteligencia artificial

no son siempre tan espectaculares como hemos visto,

pero sí que importa siempre, porque por ejemplo

cuando entramos en nuestro perfil de Netflix, Spotity o Youtube,

nos encontramos sugerencias que nos hace la aplicación

y piensan que nos pueden gustar. ¿Cómo saben las máquinas

lo que nos gusta o lo que no? A ver, Gael.

Porque igual si vemos muchos vídeos de perritos

ya sabe que nos gustan los perros y nos sacarán cosas de perros.

Vale, Irene.

O en el caso de Youtube, si estamos viendo vídeos

de distintas cosas y le damos "like" a muchas de las cosas que vemos,

la máquina asocia que nos gustan,

entonces pone las cosas que nos gustan como preferencias

y nos las enseña para que las veamos.

En cierta manera, ¿creéis que están decidiendo por nosotros?

Te hacen recomendaciones que te podrían gustar,

pero no están decidiendo lo que a ti te gusta.

¿Tú cómo lo ves?

Bueno... puede enseñarte una película que no habías visto.

Luego por ejemplo ves el tráiler y te gusta,

entonces por una parte es muy bueno.

¿Estamos todos de acuerdo? A ver, Inés.

Yo lo veo bueno pero hasta un punto,

porque si deciden lo que queremos ver...

Si ya nos enseñan un tipo de películas, series o canciones...

Ya no tendríamos nuestros gustos,

nos los elegirían las máquinas.

Vale, más opiniones. Cristian.

A mí me ha pasado muchas veces que hay un vídeo que no quiero ver

o no me interesa, pero me ha dejado

con mucha curiosidad y he acabo viéndolo.

Y yo qué sé... tenía una segunda parte

y al final se me ha pasado el tiempo solo por curiosidad

de qué era el vídeo. Hay momentos en los que pasa eso,

tú no querías verlo, pero la curiosidad

te ha obligado a seguir.

-Al final la máquina va a decidir lo que tú quieres ver,

porque vas a perder, como ha dicho Inés, el gusto.

La máquina te saca recomendaciones, y en vez de buscar tú...

Por ejemplo, yo busco películas en el buscador de comedia.

Pues van a salir otras de comedia y no lo vas a buscar tú.

En cierto sentido estás perdiendo el gusto.

-Opino que tiene ventajas e inconvenientes.

Una ventaja por ejemplo es que si te gusta mucho un actor

o una actriz, y ves una película de ese actor,

pues te van a salir más pelis de ese actor.

Pero la máquina no sabe si te ha gustado o no la peli.

Si yo veo un vídeo que no me gusta y no le doy a "no like" o "like",

va a ponerme un montón de vídeos o de series de ese tipo,

y a mí no me gusta.

El debate está servido.

¿Qué ventajas e inconvenientes tiene que la inteligencia artificial

decida por nosotros? ¿Qué es la inteligencia artificial?

La inteligencia artificial es la capacidad de un sistema

para interpretar datos, aprender de ellos

y usarlos para hacer cosas. La inteligencia artificial

utiliza diferentes métodos para aprender.

El más conocido es el árbol de decisiones.

En él va aceptando o descartando opciones

hasta llegar a la decisión final.

Pero la máquina solo puede decidir con los datos que tiene,

y si los que le llegan por internet son falsos o malignos,

tomará malas decisiones.

Los programadores deben tener mucho cuidado.

La inteligencia artificial nos ayuda en muchos ámbitos.

¿Se os ocurre dónde?

Por ejemplo ahora han creado nuevas vitrocerámicas para cocinar,

que para los ciegos tienen movimientos de sonido y eso

y están ya hechas para la gente que necesita esa vitrocerámica.

-Por ejemplo, si tú vienes a tu casa a una hora determinada

y sabe que enciendes unas luces y pones por ejemplo

el radiador a una temperatura,

después de un tiempo se programará para hacerlo sola.

(ASIENTE) Gael...

También en lo que dice Miguel de la casa,

hay nuevos frigoríficos ahora que analizan lo que sueles comer

y tienen una pequeña pantalla en la parte de delante

y te sugiere si quieres hacer esa compra con esos productos

que sueles comprar. Si quieres comprar esos productos,

pues le das a comprar y los compras "online".

Vamos a ver más ejemplos.

Por ejemplo hay fábricas que hacen el trabajo,

pero también tiene una desventaja, que quitan el trabajo a las personas.

-Donde trabaja mi madre tienen que revisar

todas las etiquetas que hacen...

y para un humano sería muy difícil

distinguir cuál está bien, cuál está mal.

Sin embargo con máquinas se hace en un segundo.

¿Creéis que es importante la ética en la creación

de inteligencia artificial?

Por ejemplo, si tú a una máquina le dices...

por ejemplo: "Haz una cosa que no debes hacer".

Ella la va a hacer sin que sepa que no hay que hacerlo.

Y si quién hay detrás tiene esa mala intención,

¿cómo controlamos?

Aprendiendo de los demás, no solo de él, de los demás.

A ver, Sergio, ¿cómo lo ves tú? ¿La ética qué papel juega?

Se puede usar mal o para el mal,

porque también la puedes usar para que robe o algo.

¿Y en estos casos? Por tanto, la ética...

La ética entonces igual es buena,

pero no tan buena porque tú le puedes enseñar mal

a posta para que él haga cosas malas y sea malo.

Cristina.

Serían dos factores. El primero es cómo está diseñada

por parte del programador, y luego el uso

que nosotros le vamos a dar a la máquina.

Sería entre esas dos. Ética por un lado y por el otro.

Chicos, chicas, os hemos hecho muchas preguntas.

Creo que ahora ya es el turno de que seáis vosotros

los que preguntéis a Cris.

¿En el futuro se podría meter inteligencia artificial

en un cerebro humano?

Hay estudios para meter chips y tal.

Pero estamos muy lejos de que algo así sea eficaz.

¿Nuestro cerebro se puede parecer al funcionamiento de una máquina

de inteligencia artificial o al revés?

Nuestro cerebro a una máquina... no.

Pero sí nos interesa que una máquina se parezca al cerebro humano.

De hecho se utilizan redes neuronales

y se imita cómo funciona el cerebro

para que razone y aprenda una máquina.

Es la intención, aunque todavía no razone,

sí aprende en base a cómo funciona nuestro cerebro.

¿Podría la inteligencia artificial tener iniciativa propia?

(DUDA) Sí... puede aprender y si tiene que decidir

entre cinco caminos, por ejemplo, tiene que tomar iniciativa

de elegir uno pero dentro del límite de cinco caminos.

De algo que ya ha hecho antes.

¿Qué peligros tiene la inteligencia artificial?

Los casos buenos que hemos podido poner aquí

y los que se os ocurran, pero usados de mala manera.

Usados para hacer daño.

Por ejemplo en las películas se puede crear gente nueva,

se puede recrear a alguien que ya no está,

se puede utilizar por ejemplo así.

Pero también esto se puede utilizar para falsificar una cara.

Le ponemos la cara de un presidente

que va a declarar la guerra a otro país.

Y tú te lo crees porque realmente estás viendo la cara de esa persona,

que es igualita, pero es mentira.

Entonces se puede utilizar mal.

Pero tenemos que tener claro que es el humano

el que lo utiliza mal, por sí sola no va a tomar esa decisión.

Vamos a ir cerrando con los tres puntos clave.

Cristina, nos hemos preguntado si son las máquinas

más inteligentes que las personas.

¿De lo que han dicho estos chicos qué te ha llamado la atención?

¿Cuál sería el primer punto?

Que se asocie la creatividad con los sentimientos,

y por lo tanto sea algo que las máquinas no pueden tener.

Vamos con el segundo punto.

Que siempre queda la cosa de que puede pasar algo malo

si utilizamos la inteligencia artificial.

Vamos con el tercer punto.

A nivel general, me gusta mucho que tengan claro

que es una herramienta, que es importante saberlo,

que es una herramienta que tenemos los humanos.

Y que siempre depende de los humanos.

Chicos, chicas, nos hemos metido hasta el fondo

en la inteligencia artificial y descubierto

cómo funcionan las máquinas. Gracias por vuestras reflexiones.

Cristina, gracias por acompañarnos en busca de la respuesta:

¿Son las máquinas más inteligentes que las personas?

Un placer. Igualmente.

Terminamos el debate, pero las preguntas

sobre inteligencia artificial dan para muchos más gigas

de conversación. Nos vemos en el próximo programa.

Creo que sí puede darse una rebelión de las máquinas.

-Igual sí que pueden rebelarse un poco pero no creo que nos dominen.

Pero algo sí que podrían hacer.

-Las personas podemos tener amigos porque tenemos sentimientos

y podemos quererles.

-Las máquinas no pueden querer a una persona

y los humanos sí, porque tenemos sentimientos.