La ética de la IA

Hace poco recibí un correo relacionado a mis escritos en este blog.  Lamento que este tan descuidado...  Es en realidad una falta grave que tratare de corregir en los próximos días, dándome como objetivo publicar un post al menos cada quince días.  Hoy me gustaría hablar un poco sobre la inquietud de mi correspondente.

Una de las grandes preguntas, que como desarrollador de sistemas inteligentes, cada día me hago es ¿cual es mi responsabilidad en la creación de una ética para los sistemas artificialmente cognicientes?

Esta pregunta tiene una gran importancia.  Grandes mentes humanas se hicieron la misma pregunta (la de la ética en su búsqueda de conocimiento) al descubrir que sus resultados podrían ser usados para la destrucción de aquello que llamamos raza humana.  Einstein y los demás que descubrieron la posibilidad de la destrucción total cuando percibieron que sus teorías podrían llevar a la construcción de una bomba atómica, intentaron por muchos medios evitar que cayese en malas manos...  Lastimosamente los políticos de cualquier sector pueden considerarse malas manos.  Algunos dicen que Einstein no se pudo perdonar el que la bomba existiese gracias a su ayuda, y que esta destruyo dos ciudades Japonesas e incentivo una guerra fría de 50 años.

Supongo que los intelectuales y académicos se consideran lo suficientemente "inteligentes" para concebir una serie de reglas que hagan posible que estas entidades que creamos no representen un peligro.  Probablemente de esta preocupación nacieron las tres leyes de Asimov sobre la robótica.  Sin embargo, debemos admitir que como todo ser humano, los intelectuales y académicos cometemos errores.  Gran parte del descubrimiento científico esta construido sobre los fracasos de muchos y los éxitos de pocos.  En última instancia, la verdadera pregunta es ¿cual es un modelo valido y quien decide su validez?

Estamos ad portas de construir una máquina con verdaderos sentidos cognitivos, pero debemos ser muy cuidadosos en que modelo de comportamiento le entregaremos.  Es en efecto la frontera de la catástrofe si los modelos extraídos son equivocados o aún peor, si ignoramos el factor humano de los modelos, creando inteligencias meramente racionales...  Frías y sin corazón.

Todas nuestras dudas, preguntas y sobre todo temores son importantes, pero esto no debe limitar nuestra curiosidad.  Y no olvidar que ha veces las mejores intenciones no siempre tienen los mejores resultados...

De como evolucionan los enjambres (II)

Continuando con la serie de posts sobre la evolución de enjambres, en la anterior entrada describimos el problema de obtener un grupo de parámetros de la estrategia generales para todos los problemas de optimización y la aceptación de la idea de realizar control de parámetros en línea.  Se sugirió la necesidad de establecer una función que relacione el desempeño general del algoritmo y la función de costo y la necesidad de un método para auto-adaptar los parámetros del algoritmo.

Utilizaremos el método establecido por las Estrategias Evolutivas para obtener un grupo de parámetros adecuados.  Para esto consideremos al sistema de enjambre auto-adaptativo como un conjunto de m poblaciones de k agentes.  Cada población posee un grupo de parámetros de estrategia que son mutados por medio de una función aleatoria de distribución normal para generar l nuevas poblaciones; cada una de las cuales busca una solución al problema de optimización principal, o sea minimizar o maximizar la función de costo J.  Para medir el desempeño general de la población definimos el valor de la función G para la l-ésima en el instante i-ésimo como el promedio del valor de costo de los k agentes J(l,k,i,q), donde q corresponde a la posición en el espacio de búsqueda del agente k-ésimo.

A continuación, utilizamos la regla de 1/5 para modificar los valores de las desviaciones estándar de las funciones aleatorias.  Esta regla determinística indica que si el desempeño de los nuevos individuos (en este caso el desempeño del enjambre completo, medido por G) es mejor que el de las poblaciones anteriores, entonces el sistema se ha desplazado a un mejor punto en el espacio de parámetros y podemos decrementar en un factor 0.82 las desviaciones.  De lo contrario, incrementamos las desviaciones por un factor de 1.22.

Con estas simples reglas, podemos generar diferentes arquitecturas, dependiendo de los valores de k, m, l, r y el uso de selección elitista o no elitista.  Para simplificar la descripción de los enjambres auto-adaptativos (Self-Adaptive Swarms - SAS), propongo la notación (k→m/r,+l)-SAS basada en la notación de Estrategias Evolutivas.  Con esta notación se puede describir cualquier algoritmo SAS, incluyendo el EPSO, al cual llamare (1→m/r,+l)-SAS.

En el próximo post, presentare el algoritmo genérico para un enjambre auto-adaptativo (k→1/r,l)-SAS, que corresponde a un enjambre de k agentes de enjambre, una población padre, l poblaciones hijas, con elitismo y sin recombinación, la cual es la arquitectura mas simple posible para poblaciones multi-miembro.

¿Inteligencia Sensual?

En varias ocasiones he escuchado de las "otras" inteligencias del ser humano. Desde la emocional, hasta la financiera, pasando por la lógica y abstracta, cada ser humano tiene diferentes formas de manejar la información que nos proveen nuestros sentidos y sentimientos. Una actividad del ser humano que provee una gran cantidad de información sensorial es el sexo.

Más allá de ser el medio de reproducción, el sexo es una forma de expresar sentimientos o de obtener simple satisfacción física, y representa una parte fundamental del comportamiento humano.

Hasta ahora, esta cantidad de información no había sido valorada por ningún sistema, hasta que hace poco vi este artículo en WIRED, donde se "evalúa" el primer aparato que hace uso de la información sensorial generada por el sexo para transmitirle placer a su usuaria, que solo debe aprobar el desempeño de su juguete para enseñarle lo que la hace feliz.

El concepto, para la autora, es bastante interesante y sugiere la incursión de los sistemas inteligentes en áreas muy humanas. En el fondo, la pregunta que me surge es si este artilugio, aparentemente no relacionado, es un paso hacia enseñarle a las máquinas que es correcto o adecuado en términos humanos.

Imagen de: http://www.wired.com/images/article/full/2008/01/sasi_sexdrive_250px.jpg

Más juegos de estrategia abstracta: Damas

Últimamente los juegos de estrategia abstracta me resultan bastante atractivos.  De hecho, voy a empezar a aprender Xiàng Qí, pero hasta ahora el programa de computador más "estúpido" me gana en pocas jugadas.

¿Qué sucedería si se inventase un programa que fuera imposible de derrotar en un juego de estrategia abstracta?  Pues el Dr. Jonathan Schaeffer y sus colaboradores en la Universidad de Alberta, luego de 18 años estudiando el juego de Damas, han construido el primer programa de computador, llamado chinook,  imposible de vencer.  Lo mejor que un ser humano podrá hacer es empatar el juego.  El programa se elaboro inicialmente usando una serie de heurísticas que almacenaban el conocimiento para reconocer jugadas buenas de malas.  En la actualidad, las heurísticas han sido abandonadas, ya que el programa ha finalizado su aprendizaje y ahora simplemente conoce la manera de ejecutar un juego perfecto.

Sin conocer exactamente el como fue programado este sistema, surgen dos preguntas.  La primera, ¿Éste sistema juega utilizando árboles de decisión u otra estrategia?  La segunda, ¿Que implicaciones tiene una máquina imposible de derrotar?

Apartándonos del aspecto meramente lúdico, imaginemos una computadora imposible de derrotar en un ámbito estratégico, como lo sería las confrontaciones bélicas.  Si bien, a diferencia de los juegos de estrategia abstracta que son de información perfecta (los jugadores conocen por completo la situación del tablero) y no aleatorios, la guerra posee gran cantidad de desconocidos.  Si una máquina es capaz de evaluar de manera perfecta las posiciones existentes, se convierte en un sistema peligroso, en particular si este de alguna manera se torna consciente de si mismo (tema explotado bastante en la ciencia ficción).  Tal vez estamos dando los primeros pasos hacia este tipo de máquina.  Pasos, que probablemente no sean pequeños.

Imagen de: http://www.cbc.ca/thehour/blog/2007/07/the_checkers_solution.html

Descifrando lenguajes no humanos...

Por muchos años nos hemos preguntados si los animales tienen capacidad de producir lenguaje.  Si fuese posible entender lo que un perro nos quiere decir, muchas labores cotidianas de aquellos amantes de mascotas serian mucho más sencillas, como las relacionadas con los desechos.

Pues amantes de los animales, esta noticia les parecerá interesante.  Un grupo de la Universidad de Hungría considera este problema interesante y ha desarrollado un programa capaz de identificar y clasificar ladridos de acuerdo a diferentes situaciones e inclusive identificar el individuo que los produce.

Según el informe de prensa, el sistema tiene hasta ahora un porcentaje de acierto del 43% para la identificación del contexto del ladrido, con mayor éxito en ladridos producidos en contextos referentes a "extraño" y "pelea", y un menor acierto en aquellos referentes a "jugar".  Para el reconocimiento de el individuo, se obtuvo un 52% de acierto.

Estos dos experimentos permiten sacar las siguientes conclusiones:  Primero, que en efecto los ladridos poseen diferencias acústicas según el estado motivacional del individuo.  Segundo, que existen diferencias, aunque no perceptibles al oído humano entre los ladridos de cada individuo.

Me pregunto como funciona este sistema.  Lo más probable es que sea un sistema bastante estandarizado de reconocimiento de voz.  La dificultad resulta en obtener el grupo de parámetros que describen correctamente las cualidades acústicas del ladrido.  Supongo que la primera opción viable es el uso del cepstrum (al igual que en humanos) junto con un clasificador (HMM, RNA).  También identificar el rango de frecuencias donde la información es más importante.

Tal vez se inventen un aparato que procese el ladrido y dentro de poco el perro del vecino y yo podríamos entablar una conversación acerca de la posibilidad de disminuir el tono de su voz...

Imagen de: https://www.eukanuba.com/es_LA/data_root/eukanuba/home/images/u_eu_hp_dog.jpg