El pasado 7 de julio tuve la oportunidad de participar como ponente en TEDxSant Cugat. Bajo el tema global de “Tomar Consciencia” pude disfrutar compartiendo mi visión sobre un tema apasionante: la Inteligencia Artificial.

La pregunta sobre la que quería hablar era ¿somos conscientes de cómo las máquinas toman decisiones?

Comparto el vídeo de TED así como un texto resumen del mismo.

 

Terminator me marcó la primera vez que la vi por el mensaje que había en la película: donde está el limite acerca de la toma de consciencia de las maquinas.

Skynet, un sistema informático diseñado para proteger a la humanidad decide que el principal peligro de ésta es la propia humanidad así que decide rebelarse y destruirla para garantizar la supervivencia. Una máquina toma consciencia.

Y la pregunta que desde entonces siempre me he hecho es si esto seria posible.

Podemos poner como punto de partida para la sesión de hoy la mecanización, es decir, el momento en el que decidimos que las máquinas ejecutan ordenes para sustituir una tarea manual. Son máquinas que no se cansan , son máquinas que simplemente hacen de forma más eficiente una actividad. Buscamos EFICIENCIA.

 

Pasamos a la informatización, cuando usamos máquinas no sólo para ejecutar ordenes sino para tratar de dar respuestas a preguntas que les hacemos a las mismas. Los primeros ordenadores nos permitían hacer en formato digital aquello que hasta la fecha hacíamos en formato analógico, pero se nos queda corto, queremos que esta máquina responda preguntas. Engima es una máquina creada durante la segunda guerra mundial para procesar datos y responder con el código de descifrado de los mensajes encriptados del ejército alemán. Ponemos buscadores a los programas informáticos o le hacemos preguntas en lenguaje natural a los buscadores. Buscamos RESPUESTAS.

 

Y entramos en la época de los sensores. Ya no buscamos máquinas que respondan preguntas sino máquinas que empiecen a interpretar su entorno y tomen decisiones a partir de un entorno limitado de posibilidades. En 2020 tendremos más de 50.000 millones de cosas conectadas, más de 6.000 cosas conectadas por habitante de la tierra:

  • Las ciudades sensorizan sus accesos para de forma automática limitar la velocidad en función de los niveles de polución;
  • las personas sensorizan sus hogares para que se tomen decisiones sobre la temperatura ambiente o el nivel de riego para sus plantas,
  • tomaremos decisiones acerca de la fidelidad de nuestra pareja con el colchón smarttres
  • o los países anticipan catástrofes naturales sensorizando el mar para saber cuando se produce un Tsunami. En el mundo hay buscamos DECISIONES.

Por lo tanto:

  • la mecanización busca eficiencia
  • la informatización busca respuestas
  • la sensorización busca decisiones

 

Y todo desemboca en el poder del algoritmo, es decir, un conjunto ordenado de operaciones sistemáticas que permite hacer un cálculo y hallar la solución a todo tipo de problemas.

La primera derivada del algoritmo es cuando se usa para procesar datos que existen, es decir, datos que compartimos por ejemplo en redes sociales, para poder con ellos tomar decisiones. ¿Somos conscientes de las decisiones que se toman con nuestros datos?

Vamos más allá de la PRIVACIDAD

 

Publicas o alguien lo hace por ti una foto de aquella noche en la que bebiste más de la cuenta y tiempo después pierdes una oportunidad profesional porque el proceso de selección usa un algoritmo que busca datos, información y emite juicios.

La compañía de telefonía analiza como se comporta un turista cuando llega a Barcelona y se activa su roaming y en función de su comportamiento le ofrece servicios, productos…

O dejas que una aplicación te proponga pareja en función de lo que tu cuentas y de todo lo que analiza de tu vida en redes sociales (millones de personas usan aplicaciones para citas on-line)

Buscamos AYUDA en estos datos.

 

La segunda derivada del algoritmo es cuando entramos en la esfera de la Inteligencia Artificial, es decir, que el algoritmo aprenda a partir de los datos, como hacemos las personas. Científicos especializados en esta materia esperan que en el 2050 existe un 50% de posibilidades que la Inteligencia Artificial ya funcione igual que la mente humana. Aprenda y tome decisiones complejas.

Vamos más allá de las PERSONAS

 

Y cuando este momento llegue puede que sea el último gran invento del hombre porque a partir de ese momento la IA posiblemente será mucho mejor inventor.

Cuando pensamos en IA pensamos en máquinas, en robots, quizás mejor pensar en procesos de optimización, procesos en los que a partir de los recursos disponibles se busca conseguir el cumplimiento óptimo de los objetivos.

Por ejemplo si el estado óptimo decidiéramos que es ganar la IA podría decidir que la petición de  debería ser atendida. Esta atleta del reino unido nació con un problema en la cadera y en su pierna derecha. En 2010 pidió que le amputarán la pierna izquierda y ahora cree que su rendimiento sería mejor si tuviera las dos piernas amputadas y lanza la petición pidiendo permiso para poder amputarse la pierna natural que tiene. De momento no ha conseguido su propósito

Buscamos OPTIMIZACIÓN.

 

Y llegamos al punto de partida, cuando skynet decide que lo mejor es destruir a la humanidad porque ella es su peor enemigo. Llegamos a la pregunta de ¿Quién toma las decisiones?

Las personas tenemos entre las variables de toma de decisión la emoción mientras que la mecanización, informatización, sonorización y finalmente la Inteligencia Artificial tienen la eficiencia como variable prioritaria.

No tengo claro que seamos conscientes de la evolución en la que dejamos a la optimización como variable de la toma de decisiones.

Por ejemplo ¿podría un coche autónomo elegir las víctimas de un accidente? Un coche autónoma circula por una calle con una mujer embarazada al volante y de repente se cruza un grupo de niños. ¿qué decisión debe tomar el coche? Según un estudio de la revista Science las personas queremos que el coche tenga una “moralidad utilitarista”: mejor matar a un pasajero que atropellar a 10 peatones.

Y los coches autónomos ya existen.

Por lo tanto la pregunta no es si las máquinas podrán tomar el control, como en la película, sino bajo que condiciones deberán hacerlo. ¿Bajo qué condiciones un coche tomará estas decisiones?

 

En este punto deberíamos garantizar, como mínimo, que los valores que tenemos las personas sean compartidos por la IA de forma que en su toma de decisión optimizada las variables puedan ser compartidas con las personas.

Sólo tomar consciencia de este proceso y del riesgo de evolucionar sin compartir con la IA las bases de la toma de decisiones nos permitirán mantener nuestra capacidad humana, emocional y racional.

No podemos creernos mejor que las máquinas, que la IA, debemos compartir nuestra moralidad y valores con ellas… o eliminarlas.