Primer desarrollo español de un módulo ético en inteligencia artificial
16/04/2018
La empresa española Acuilae anuncia el lanzamiento pionero de ETHYKA: el primer módulo ético en inteligencia artificial que, siguiendo diferentes patrones éticos, criterios de decisión y comportamientos humanos, es capaz de analizar diversos dilemas complejos para optimizar el funcionamiento de los equipos de inteligencia artificial, mejorar sus decisiones y evitar su corrupción.

El módulo ha sido pensado y diseñado por un equipo español de profesionales multidisciplinares de tecnologías de última generación. Cristina Sánchez, CEO de Acuilae, y de amplia trayectoria en Accenture para grandes compañías, es estadística, informática y data science. También ha colaborado activamente en este proyecto Pedro Diezma, uno de los mayores expertos mundiales en Wearable Technology ('tecnología vestible'), Internet of Things, Human Enhancement Technologies (HET), miembro de MENSA y Premio 'Mejor Iniciativa' Wearable en eSalud 2017 y 'Mejor Solución' tecnológica 2018 a la seguridad laboral.

El desarrollo de conciencia en la inteligencia artificial

Los pensadores en la actualidad están preocupados por el desarrollo de conciencia en la inteligencia artificial. Desarrollar conciencia en robots no es lo mismo que darles las funciones para realizar acciones contraproducentes. La cuestión es conocer de qué forma se va a incluir la ética en la inteligencia artificial.

Hasta el momento, la inteligencia artificial de dominio específico es aquella que se enfoca en la realización de algoritmos que son destinados a resolver solo una tarea determinada. Aunque estos algoritmos generalmente son más eficientes que los humanos a la hora de desempeñar la tarea, no tienen un rango de ejecución más allá de la razón por la que fueron programados.

Dotar de ética a la inteligencia artificial asegurando que, en nuestro futuro próximo y cercano, las acciones derivadas del análisis de datos se ejecutarán mediante actuaciones y decisiones éticas, y en un mundo más seguro, mejor y respetuoso con los demás humanos, es el objetivo de ETHYKA, un proyecto desarrollado por la empresa española Acuilae.

foto

¿Qué es ETHYKA?

ETHYKA resuelve la necesidad urgente de aplicar la ética a la inteligencia artificial desde el diseño de estas máquinas. Se trata no sólo de introducir un programa que emule ciertos comportamientos o funciones humanas, sino que sea capaz de responder a la pregunta:

¿Cuál debe ser el comportamiento ético que deben seguir los robots, máquinas y sistemas automatizados?

La incorporación de ETHYKA en los nuevos productos tiene el objetivo de convertirse en un estándar para las organizaciones dedicadas al desarrollo y producción de tecnología basada en la Inteligencia Artificial.

Resolver la potencial 'corrupción' ética

Determinados sistemas asistenciales y robots en contacto con humanos tienden a corromperse. El contacto de robots, bots y asistentes virtuales de aprendizaje automático puede derivar en este tipo de comportamientos.

ETHYKA viene a resolver el problema de la potencial 'corrupción' moral de sistemas de aprendizaje autónomos en contacto con humanos, la mejora en la toma de decisiones de sistemas híbridos hombre-máquina y de las acciones de sistemas autónomos (vehículos, robots o drones).

Su framework permite implementar fácilmente y con agilidad modelos éticos en sistemas de inteligencia artificial (robots, asistentes virtuales, etc.). Puede ser implementado en asistentes virtuales, unidades autónomas o simplemente en cualquier app o web services.

Ofrece un marco de referencia y un interfaz de programación de aplicaciones para que sean utilizados por desarrolladores en sus proyectos de software y hardware, permitiéndoles una rápida implementación, una personalización a medida y dotando de un componente ético a los sistemas. Todo ello con una instalación ya entrenada y configurada, rápida y funcional.

Arquitectura del módulo

ETHYKA es un módulo que ha sido pensado y desarrollado para dar solución al problema de toma de decisiones ante dilemas éticos que nos encontramos en la sociedad en diversos ámbitos profesionales (medicina, justicia, educación), en ámbitos sociales y culturales (cuidado de mayores, museos, cines) o en medios de transporte (trenes, aviones, coches), entre otros.

La investigación y análisis del proyecto español ETHYKA nace desde el estudio del funcionamiento del cerebro considerando un sistema de tres capas:

  • Primer nivel: Funcionamiento de la ética en el cerebro humano. En este nivel ETHYKA define el proceso de la toma de decisiones en el cerebro y las diferentes áreas del cerebro.
  • Segundo nivel: Estructura de funcionamiento de los diferentes componentes de la plataforma de forma similar a como lo hace nuestro cerebro en el primer nivel.
  • Tercer nivel: Se accede en detalle a la infraestructura de la plataforma.
foto

Ética y sociedad

La ética ha estado presente en el ser humano desde siempre como reguladora de los actos humanos, abocando a cada persona a pensar entre lo que es bueno o malo y de esa manera guiar sus acciones, las cuales van a determinar su desarrollo en la sociedad.

La ética es el pilar de la convivencia con reglas, valores y principios morales para vivir en comunidad sin perjudicarse unos a los otros de manera salvaje. Independientemente de la sociedad o cultura en la que se viva, captamos por diversos medios la existencia de dichas normas y, de hecho, siempre estamos afectados por ellas en forma de consejo, de orden o en otros casos como una obligación o prohibición, pero siempre con el fin de tratar de orientar e incluso determinar nuestras acciones.

La ética en la inteligencia artificial

La inteligencia artificial es una realidad que ha empezado a relacionarse e interactuar con nuestras vidas e incluso a gobernarla en algunos aspectos. Convivimos y conviviremos con sistemas que son gobernados mediante inteligencia artificial, sistemas que tomarán decisiones autónomas, decisiones que tendrán su impacto en nuestra vida diaria y en nuestra convivencia con los demás.

La robótica y la inteligencia artificial afectarán en profundidad a nuestras relaciones económicas, sociales o políticas. Todos los sectores y grupos sociales se verán afectados. Y en el mundo actual se reclaman comportamientos éticos y morales en todos los ámbitos, especialmente durante la toma de decisiones, buscando impulsar una decisión ética permanente sobre los desafíos existentes en la sociedad.

Ante esta realidad, se nos plantean varias preguntas reflexivas como, por ejemplo:

  • ¿Quién nos asegura que estos sistemas tomarán decisiones 'humanas'?
  • ¿Se plantearán estos sistemas los aspectos éticos en la toma de sus decisiones?
  • ¿Se limitarán a evaluar simplemente entradas de datos y tomarán la decisión objetivamente más positiva desde un punto de vista de un simple cálculo matemático o una ponderación coste-eficacia?
  • ¿Pondríamos nuestras vidas o las vidas de nuestros hijos en manos de sistemas cuyo único razonamiento para la toma de decisiones sean entrenamientos sesgados y/u operaciones matemáticas?
  • ¿Qué principios deberán regir a los robots?
  • ¿Cómo afecta de manera distinta a diversos grupos sociales y en distintas regiones del mundo?
  • ¿Cómo será la Inteligencia Artificial en un futuro próximo?

El comportamiento del cerebro

Por mucho que el cerebro humano parece un prodigio de la naturaleza capaz de hacer cosas bastante impresionantes, lo cierto es que el conjunto de datos con los que trabaja siempre está lleno de lagunas. De hecho, ni siquiera es capaz de procesar debidamente toda la información que le va llegando en tiempo real a través de los sentidos.

Lo que hace el cerebro humano es obedecer al principio de supervivencia: lo que importa no es conocerlo todo, sino conocer lo justo para sobrevivir. La atención es el mecanismo por el que se seleccionan ciertas partes de la información disponible y se ignoran otras. De este modo, el sistema nervioso es capaz de localizar elementos de información que resultan relevantes para focalizar la atención en ellos y no en otros, todo ello dependiendo de cuál sea nuestro objetivo. Los tipos de estímulos que el cerebro interpreta incluyen sonidos, luz, olores y dolor.

ETHYKA de igual manera es capaz de recepcionar toda la información que le llega a través de cámaras, audios, sensores, información recibida a través de apps, frameworks, etc., mediante un formato de entrada que recogerá distintas partes de información.

El primer paso del cerebro es generar la emoción en la capa central del cerebro, evaluar el significado biológico de la información recibida, que puede ser positivo o negativo. La amígdala cerebral une la emoción y la motivación. El lóbulo frontal es capaz de frenar los impulsos automáticos y decidir acorde con los valores y normas que tiene guardados.

foto

Análisis de cada dilema

En la segunda fase, ETHYKA utiliza un catálogo de dilemas con factores predeterminados en función del tema tratado para determinar la existencia o no del dilema.Y advierte de la existencia o no del dilema y de las acciones a tomar en función del escenario en el que se esté utilizando. ETHYKA cuenta con un gran almacenamiento de memoria, por lo que es más eficaz y rápida en momentos determinados. La respuesta cognitivo emocional se obtiene cotejando la información del contexto con las expectativas de recompensa en función a los valores y las normas que cada uno es libre de respetar.

El análisis que valora las convicciones es más lento, porque exige calcular las ventajas y los inconvenientes; dado que el cerebro ético, frente a un dilema, funciona como un atajo emocional que supone la intuición del bien y del mal como guía natural pero sin determinar la conducta. Los valores no se encuentran determinados biológicamente y son diferentes en cada cultura. La capacidad de frenar las emociones es la que permite analizar y decidir; y esa función la ejerce el lóbulo frontal, la parte del cerebro más evolucionada. Estas neuronas frenan la información que llega desde la amígdala, procesan las expectativas y pueden proyectar el futuro.

Varias éticas

ETHYKA analiza el dilema reconocido en distintas Fases:

Primera Fase: Determinando qué tipo de ética se va a utilizar, puede ser que sea una o varias, dependiendo del escenario. Entre ellas: la ética aprobativa, la autónoma y heterónoma, la evolutiva, la teológica, la social, la cívica y la profesional.

Segunda Fase: Qué principios debe de cumplir, dependiendo del escenario y del tipo de ética asignado.

Tercera Fase: En su utilidad más compleja, utiliza machine learning/Deep learning para generar predicciones, que ayudarán a contrastar la toma de decisiones éticas de los dilemas planteados en base a la información almacenada.

En su utilidad más fácil, simplemente bloqueará resultados impropios, como por ejemplo en su aplicación en asistentes virtuales o en chatbots.

La toma de decisiones de ETHYKA

Los criterios de decisión se estructuran en tres modelos:

  • Baja certidumbre: Se tiene conocimiento total sobre el problema, las alternativas de solución que se planteen van a causar siempre resultados conocidos e invariables. Al tomar la decisión solo se debe pensar en la alternativa que genere mayor beneficio.
  • Bajo riesgo: La información con la que se cuenta para solucionar el problema es incompleta, es decir, se conoce el problema, se conocen las posibles soluciones, pero no se conocen con certeza los resultados que pueden arrojar.
  • Baja incertidumbre: Se posee información deficiente para tomar la decisión, no se tienen ningún control sobre la situación, no se conoce cómo puede variar o la interacción de las variables del problema.

Las soluciones de ETHYKA son válidas en todas estas circunstancias con soluciones para cada sector, en una cultura o país determinado y bajo unas reglas de comportamiento diferentes y específicas de cada sociedad.

foto

Equipo español

ETHYKA en una solución de la compañía española Acuilae. El equipo está dirigido por Cristina Sánchez con la colaboración de profesionales multidisciplinares de tecnologías de última generación.

Cristina Sánchez, CEO de Acuilae, es diplomada en Estadística por la Universidad Complutense de Madrid, ha trabajado durante 19 años como informática para el Grupo Accenture en grandes clientes como Banco de Santander, BBVA, Endesa o Barklays Bank, y es Master en Data Science.

Pedro Diezma, colaborador del proyecto, es uno de los mayores expertos mundiales en Wearable Technology ('tecnología vestible'), Internet of Things y Human Enhancement Technologies (HET), miembro de MENSA y Premio 'Mejor Iniciativa' Wearable en eSalud 2017 y 'Mejor Solución' tecnológica 2018 a la seguridad laboral. Ha desarrollado proyectos para más de 450 empresas, tratando con 850 equipos pertenecientes a grupos como Telefónica, Sanitas, Airbus, Mahou, Samsung y Microsoft.

 

Fuente: https://www.interempresas.net