Por: IBM

La confianza es el vínculo principal que une a las empresas que desarrollan e implementan la Inteligencia Artificial (IA) con sus consumidores. Mientras que los primeros deben asegurarse de que sus sistemas de inteligencia artificial lleguen a ciertas conclusiones de manera ética, transparente y cumplan con las regulaciones relevantes, los consumidores son cada vez más conscientes de cómo se utiliza esta tecnología y quieren saber cuándo se usa y cómo impacta sus vidas.

IBM ha argumentado desde hace tiempo que los sistemas de Inteligencia Artificial deben ser transparentes y explicables, lo que refuerza nuestro respaldo a los principios que están construyendo las organizaciones internacionales como la OCDE (Organización para la Cooperación y el Desarrollo Económicos), el G-20 y El Foro Económico Mundial. La existencia de principios es esencial y ayuda a delinear los compromisos que los desarrolladores de IA deben tener con los ciudadanos, los consumidores y los gobiernos.

Sin embargo, ha llegado el momento de pasar de los principios a las políticas. La transparencia algorítmica y la capacidad de los sistemas para explicar la lógica detrás de sus recomendaciones, debería ser la base para construir cualquier sistema de IA confiable, y por lo tanto, es lo que esperamos de cualquier compañía que desarrolle, distribuya o comercialice sistemas de este tipo.

En un ensayo reciente, tomamos una posición sobre las tecnologías de reconocimiento facial y reforzamos nuestro compromiso con algoritmos transparentes y explicables. Algo similar debe ser requerido para la IA en general: los resultados de búsqueda, ya sean deterministas o probabilísticos, deben ir acompañados de la posibilidad de que el usuario verifique el origen y las fuentes de información presentadas.

Al considerar que estamos hablando de tecnologías cada vez más extendidas y determinantes de comportamientos y decisiones que pueden afectar la vida en la sociedad, es esencial que los gobiernos prioricen el debate de manera técnica y oportuna. En este sentido, recomendamos que los debates públicos y legislativos para la definición de las mejores políticas y estructuras de gobernanza de la IA se guíen por tres pilares:

• Imparcialidad y seguridad validadas por pruebas de sesgos y de uso. Esto debe ser realizado antes de que la IA sea implementada, y con especial foco en sistemas que entregan determinaciones automatizadas y aplicaciones de alto riesgo;
• Responsabilidad proporcional al perfil de riesgo de la aplicación y a la capacidad de la organización para proporcionar, desarrollar u operar un sistema de IA, así como para controlar y mitigar resultados no deseados o perjudiciales para los consumidores; y
• Transparencia al señalar en dónde se utilizará la tecnología, cómo ha sido entrenado el sistema, cómo se usa, y por qué entrega ciertos resultados o sugerencias de acción.

Con esto, será posible identificar y frenar las prácticas eventuales de organizaciones que no están comprometidas a proteger los derechos y la privacidad de sus usuarios, sean individuos, empresas o gobiernos.

Creemos que los enfoques regulatorios basados en riesgo son los medios ideales para proteger a los consumidores, crear confianza pública en la Inteligencia Artificial y, sobre todo, proporcionar a los innovadores la flexibilidad necesaria para la creación de sistemas cada vez más precisos e impulsores del desarrollo social y económico.

Además, es importante que las empresas se unan para la construcción de buenas prácticas en el desarrollo y la gobernanza de estos sistemas, y que estas prácticas puedan variar de acuerdo con el daño potencial que una solución pueda presentar. En base a este ejercicio de armonización, recomendamos cuatro prácticas que, al incorporadas y ser aceptadas por el mercado, diferenciarán a las compañías que realmente están comprometidas con la generar una práctica de Inteligencia Artificial confiable:

1. Designar un líder responsable de Ética en la IA:. Esta persona sería responsable de la guía interna y sus mecanismos de cumplimiento. Podría por ejemplo conformar un Consejo de Ética en IA, que vigile las estrategias de evaluación de riesgo y la mitigación de potenciales daños. Un mercado que prioriza la adopción de profesionales responsables de Ética en IA, tiene el potencial de mejorar la aceptación y confianza pública en estos sistemas, al mismo tiempo que impulsar el compromiso de las organizaciones hacia el desarrollo, despliegue y administración responsable de esta importante tecnología.
2. Diferentes reglas para diferentes riesgos. Todas las entidades que operan o son propietarias de un sistema de IA deben conducir dos tipos de evaluación, ambas extremadamente juiciosas: una evaluación inicial del daño potencial de la tecnología, que tiene en cuenta el uso específico de la aplicación, los impactos para el usuario final y nivel de automatización empleado; y otro, aún más profundo, centrado en aplicaciones de alto riesgo, que deben documentarse, auditarse y almacenarse durante un período específico.
3. Sistemas explicables de IA. Cualquier Sistema de IA en el mercado que haga determinaciones o recomendaciones con impactos potenciales para distintos individuos, debe ser capaz de explicar y contextualizar cómo y por qué llegó a una conclusión. Para lograrlo, es necesario que las organizaciones mantengan huellas auditables sobre los datos de insumo y entrenamiento del mismo sistema.
4. Realización de pruebas de sesgos. Todas las organizaciones involucradas en el desarrollo del ciclo de vida de la IA comparten cierto nivel de responsabilidad en asegurar que los sistemas que diseñan sean imparciales y seguros. Y como con cualquier software para uso comercial, es esencial realizar pruebas continuas de distintos tipos (protección de datos, cumplimiento, antidiscriminación, protección del consumidor, seguridad, etc.), para identificar y reducir las posibilidades de que el aprendizaje automático produzca resultados no deseados.

Todo esto se puede hacer sin crear ningún requerimiento regulatorio específico. Al mercado se le puede delegar la responsabilidad de aprobar o castigar prácticas organizacionales que no estén de acuerdo con este marco de referencias para el desarrollo y uso de la Inteligencia Artificial.

Complementariamente, el papel de los gobiernos para apoyar la innovación y la adopción de IA a gran escala y en todos los ámbitos es fundamental. Especialmente para esto, destacamos tres puntos a ser considerados por las autoridades del Poder Ejecutivo:

• Designar o reconocer, mecanismos regulatorios existentes y efectivos (como ejemplo, el CENELEC en Europa o el NIST en EUA) para alentar la colaboración en la definición de referencias, estructuras y estándares para sistemas de IA;
• Apoyar el financiamiento y la creación de laboratorios multidisciplinarios de IA a través del trabajo conjunto. Los diferentes actores de este ecosistema pueden recomendar mejor la adopción de criterios de imparcialidad, explicabilidad, transparencia, ética, privacidad y seguridad en la IA;
• Incentivar la adopción de estándares globales, así como certificaciones y formatos de validación reconocidos internacionalmente.

Finalmente, cualquier acción discriminatoria, ya sea en un entorno virtual, automatizado o físico, debe evitarse sin distinción. Las recomendaciones o decisiones sesgadas de cualquier tipo nunca deben considerarse aceptables. Especialmente en sistemas que se pueden mejorar, probar y corregir en modelos estadísticos antes de que sean accesibles.

La inteligencia artificial confiable ya está disponible para todos. Su mejora y adopción a gran escala, de manera ética y transparente, está en manos de organizaciones y gobiernos que deben trabajar juntos para encontrar el equilibrio entre la autorregulación y la regulación precisa que contribuya a disminuir los impactos negativos de esta tecnología, sin eclipsar su potencial transformador y positivo.

Acceda al PDF del documento aquí.https://www.ibm.com/blogs/policy/latin-america/wp-content/uploads/sites/6/2020/01/IBM-Policy-Lab-AI-PoV_ES.pdf

www.EcuadorUniversitario.Com

Doce colegios en Perú y seis colegios en España están utilizando WatsomApp, una innovadora aplicación construida con la inteligencia artificial IBM Watson para ayudar a los profesores a mejorar la convivencia en las aulas. Un equipo de psicólogos, pedagogos e informáticos de la empresa española KIOAI, business partner de IBM, ha desarrollado esta pionera aplicación “anti-acoso” escolar que ya se está empleando con alumnos de entre 6 y 16 años.

WatsomApp incluye un robot que interactúa con los alumnos en lenguaje natural y un juego online para profundizar en las dinámicas de cada clase

Ya sea físico o psicológico, el acoso escolar es un problema que afecta a jóvenes de todo el mundo y que la tecnología puede ayudar a reducir. Se estima que en América Latina el 70% de los niños son directa o indirectamente afectados por el acoso en la escuela1.

KIOAI prevé la incorporación de un mayor número de colegios durante el presente año escolar.

“Con el consentimiento paterno, los colegios utilizan WatsomApp al principio y al final del trimestre, lo que les permite observar y comparar cómo evoluciona la convivencia en la clase y así poder actuar con planes específicos si lo ven necesario”, afirma Gustavo Beltrán, fundador de KIOAI.

“WatsomApp ha sido un aliado para mantener buenas dinámicas de grupo dentro de la clase. Nuestro objetivo siempre es educar trabajando valores como el respeto o la amistad, y esta herramienta es un gran apoyo para seguir potenciando esta convivencia positiva entre los alumnos”, ha comentado Ruth Sánchez, profesora del colegio Nova Hispalis.

WatsomApp se compone de varios elementos: por un lado, un juego online que mezcla pruebas de habilidad con preguntas que ayudan a los niños a interiorizar valores como la tolerancia y la amistad. Por ejemplo: “¿Con quién de tu clase formarías un equipo para jugar a las cartas?”. En esta parte de la aplicación se utiliza la tecnología Watson Natural Language Classifier (NLC) para la clasificación de palabras y textos.

Por otro lado, WatsomApp cuenta también con un chatbot que conversa con los niños y que se ha creado con la tecnología Watson Assistant. Y por último, están los robots Snow y Q.bo One que, gracias a la tecnología IBM Watson Visual Recognition, IBM Watson Speech to Text e IBM Watson Text to Speech, pueden reconocer imágenes y conversar con los alumnos, generando un entorno en el que estos se sientan más cómodos y abiertos a sincerarse.

Una pregunta de Snow o Q.bo One podría ser: “En un mundo ideal, ¿crees que las personas se ayudarían o se enfadarían las unas con las otras?”.

“El robot es empático, no emite juicios de valor y facilita un ambiente de confianza en el que los niños y niñas se abren más”, ha explicado Gustavo Beltrán.

Utilizando la Inteligencia Artificial de IBM, WatsomApp tiene en cuenta tanto el lenguaje como el tono con que hablan los alumnos para identificar sus emociones. Posteriormente, genera un informe confidencial en el que se identifican potenciales problemas. No recoge información confidencial y todos los datos se almacenan en un sistema protegido con encriptación de principio a fin. Los profesores analizan el informe con el resto de los especialistas de los colegios y ponen en marcha un plan específico si es necesario.

www.EcuadorUniversitario.Com

IBM Watson está siendo aplicado en hospitales, bancos, retailers y entidades educativas de toda la región. El anuncio se hizo en el marco del tercer Congreso Latinoamericano de Tecnología y Negocios en Santiago de Chile. IBM informó que 100 millones de personas en América Latina serán ‘tocadas’ en 2017 por el sistema de inteligencia artificial, IBM Watson. La compañía indicó que decenas de empresas de todos los tamaños de 15 industrias en la región, están implementando soluciones de inteligencia artificial.

“Estamos viviendo la era de la trasformación de las industrias y de las profesiones, donde la inteligencia artificial es el habilitador de esta evolución en áreas como la salud, educación, retail, banca, e incluso el arte y la cultura. IBM Watson está siendo utilizado tanto por grandes empresas como por desarrolladores y start-ups, para ayudar a los profesionales a potenciar sus conocimientos y tomar decisiones en tiempo real. La inteligencia artificial ya es una realidad en América Latina, de la mano de IBM Watson”, explicó Rodrigo Kede, presidente de IBM América Latina.

IBM inició el desarrollo de capacidades de inteligencia artificial hace más de medio siglo. Hoy, IBM Watson es considerado el sistema cognitivo y de inteligencia artificial para los negocios más desarrollados del mundo por contar con tres características fundamentales: comprensión y procesamiento de lenguaje natural, generación y evaluación de hipótesis y aprendizaje dinámico.

Actualmente la empresa de consultoría de negocios latinoamericana, Cognitiva, es el socio estratégico de IBM para la comercialización de Watson en español en la región. Cognitiva contribuye al aceleramiento de la adopción de inteligencia artificial en distintas industrias.

Un reciente estudio del Institute for Business Value de IBM reveló que las empresas/organizaciones tienen o están listas para abrazar la tecnología cognitiva (inteligencia artificial): 88% espera que la computación cognitiva desempeñe un papel importante en el futuro de sus organizaciones. Incluso, 46% de empresas de alto desempeño ya están testeando, implementando u operando soluciones cognitivas.

André Sandoval, CEO de Cognitical, emprendimiento ecuatoriano que se dio a conocer con su el desarrollo de Cloud Therapy – una aplicación realizada con capacidades cognitivas de IBM Watson, considera que “el motor actual del mundo es la Data. Hoy en día contamos con una extensa cantidad de información que se ha vuelto casi imposible de analizar mediante los métodos tradicionales. Es entonces donde la Inteligencia Artificial entra en el juego”.

Salud con IBM Watson: IBM Watson es utilizado en 55 hospitales y organizaciones sanitarias de todo el mundo. Uno de sus objetivos principales es asesorar a los profesionales de la medicina en el diagnóstico y tratamiento del cáncer.

Hoy Grupo Ángeles Servicios de Salud de México y Hospital Mãe de Deus de Brasil ya están adoptando Watson for Oncology, solución cognitiva que apoya la lucha contra el cáncer de mama, pulmón, colon y recto.

Otros ejemplos de IBM Watson en América Latina

En América Latina, IBM Watson ya está siendo implementado por la multinacional y su socio estratégico Cognitiva en diversos proyectos tales como:

Salud: Cognitical, tiene la capacidad de analizar la información gracias al respaldo de Watson IBM, lo que facilita la toma de decisiones de sus clientes en áreas como Salud, política, marketing y branding.

Cloud Therapy, una aplicación creada por emprendedores ecuatorianos, está diseñada para dar un servicio inteligente de salud. Basado en Watson IBM, el aplicativo es capaz de recibir preguntas sobre dolencias y responderlas, dando un posible diagnóstico para que el usuario tenga un indicio sobre lo que lo afecta. Cloud Therapy tiene fuentes del Centro de Control de Enfermedades estadounidense (CDC), Institutos Nacionales de la Salud (NIH) y Cruz Roja.

Banca: Bradesco en Brasil y Santander Río en Argentina – este último implementado por Cognitiva – son ejemplos del uso de inteligencia artificial en la industria bancaria. Ambos desarrollaron asistentes virtuales cognitivos que responden a las preguntas de sus colaboradores y clientes en lenguaje natural, brindando una experiencia más personalizada.

Retail: Via Varejo, una de las mayores compañías de retail de Brasil, desarrolló un asistente virtual – canal de comunicación basado en IBM Watson, que permitirá a los consumidores acceder a información sobre sus compras, cambios y devoluciones, y también ayudará a los clientes a elegir los mejores smartphones, basándose en sus preferencias y necesidades.

Música: IBM Watson y Andrés Cepeda, cantautor, productor colombiano y ganador de un Grammy, se asociaron para componer de manera conjunta el próximo single del artista basado en las preferencias y el sentimiento social de sus fans; una iniciativa pionera en su tipo en la región donde convergen el talento artístico y la inteligencia artificial.

Educación: Innova Schools, la mayor red escolar del Perú, se constituyó como la primera empresa del sector de educación en desarrollar una aplicación de reclutamiento utilizando inteligencia artificial de IBM. En asociación con Cognitiva e IBM Watson, el proyecto busca mejorar la forma en la que la institución educacional selecciona su cuerpo docente, para transformar el proceso de reclutamiento, tornándolo más eficiente, ágil y menos costoso.

EcuadorUniversitario.Com