Cómo usan la IA los emprendedores sociales: Legislación e impacto

Esta ley histórica aprobada este año por la UE, acuerda un enfoque de dos niveles: exige transparencia para todos los modelos de IA de uso general como Chat GPT (que tienen modelos cerrados) y requisitos más estrictos para aquellos más críticos como la provisión de agua; electricidad y gas; dispositivos médicos; sistemas para determinar el acceso a instituciones educativas o utilizados en controles de fronteras; la administración de justicia y los procesos democráticos. 

Dice también esta  ley, que se prohibirán los sistemas de reconocimiento de emociones en ámbitos laborales e instituciones educativas y la categorización biométrica para conocer datos sensibles como la orientación sexual o las creencias políticas o religiosas. Además,  establece la prohibición de  sistemas de IA que amenacen derechos fundamentales, que “manipulen el comportamiento humano” para eludir el libre albedrío o que permiten el social scoring: sistemas que puntuan a las personasbasándose en su sexo, salud, comportamiento social o en sus preferencias. Las principales empresas que están detrás de los modelos actuales de IA dicen que acatarán la ley, aunque pidieron efusivamente que su aplicación “no suponga un freno para su desarrollo”. 

La IA en Latinoamérica presenta un gran potencial para transformar los sectores de salud y educación En salud, la IA puede mejorar diagnósticos y gestión hospitalaria mejorando así la calidad de vida y personalizando su atención médica. Pero a su vez surgen interrogantes sobre la responsabilidad y privacidad de los datos. Por poner un ejemplo cercano de la repercusión en salud de la IA, en Brasil, el cáncer de mama representa casi el 30% de todos los tipos de cáncer y cerca del 40% de las pacientes sólo reciben el diagnóstico en las fases avanzadas de la enfermedad. En este sentido, ya existen iniciativas prometedoras que podrían implementarse, como el sistema ÁGUEDA, basado en IA, para la detección temprana del cáncer de mama en dicho país.

Respecto a la educación a nivel global, este año el gran modelo de lenguaje GPT-4o de la empresa OpenAI demostró cómo podría impactar la IA en ese ámbito. Salman Khan (fundador de Khan Academy, el sitio de aprendizaje online gratuito y multilingüe), junto a uno de sus hijos, realizaron una demostración de cómo podría asistir por voz el aprendizaje de conceptos trigonométricos. A nivel local, la Cámara de Diputados de la Nación Argentina inició este año una serie de reuniones para conocer la opinión de expertos en IA en donde se plantearon preocupaciones sobre su impacto en el empleo, la privacidad, la desigualdad y el medio ambiente. 

Sin embargo, la región debe legislar sobre tecnologías de vanguardia mientras enfrenta brechas digitales históricas. Tiene la oportunidad de crear un marco legal innovador, pero debe hacerlo con rapidez y prudencia. Es evidente que se requiere encontrar un equilibrio entre fomentar la innovación y proteger los derechos fundamentales.

En Argentina, ya se presentaron 7 proyectos de ley para regularla. Uno de los proyectos consiste en una “Ley de Regulación y Uso de la Inteligencia Artificial en la Educación” que busca proteger la privacidad de los estudiantes, asegurar que todos tengan las mismas oportunidades y que los sistemas de IA sean transparentes y efectivos. Además, se busca evitar sesgos y garantizar que la tecnología complemente, no reemplace, la interacción humana en el proceso educativo.

IA con impacto social

Mientras tanto, entre argumentaciones sobre regulaciones y amenazas, poco se sabe que estas tecnologías están siendo utilizadas también por emprendedores sociales que buscan potenciar su impacto social. Desde Ashoka mapeamos 34 iniciativas, provenientes de Argentina, Chile, Bolivia, Brasil, Ecuador, Colombia y México, y las reunimos para ​crear la primera Comunidad de Emprendedores Sociales que utilizan IA para profundizar su impacto. 

Esta comunidad tiene un 50 % de participantes mujeres. El 26% de los proyectos se dedica a promover el desarrollo económico; el 20% a la participación ciudadana y el 15% a Educación. Salud y medio ambiente, un 7% cada uno. En cuanto a su composición, el 46% de las iniciativas tienen equipos técnicos in house, un 30% lo hacen de manera externa y un 25% no tienen. Entre los desafíos más importantes, se encuentran el desarrollo de sistemas de aprendizaje automático y análisis de datos, procesamiento de lenguaje natural y los desarrollos y perfeccionamiento de los sistemas de recomendación. 

Bastan algunos ejemplos para dimensionar el impacto de estas iniciativas: como Diagui, un asistente que busca acompañar, de manera personalizada y en el momento en que lo necesitan, a las personas de más de 45 años que se encuentran en un procesos de reinvención y búsqueda laboral. AymurAI, que usa inteligencia artificial para crear conjuntos de datos y documentos anonimizados a partir de sentencias judiciales, para que el sistema judicial abra sus datos de justicia de forma segura y eficiente. Hunko, que desarrolló recorridos de aprendizaje corporativos personalizados y adaptados a las necesidades de cualquier persona, buscando la innovación y la eficiencia. Por otra parte, en el Estado, el Registro Nacional de Barrios Populares (ReNaBaP), busca detectar y relevar nuevos Barrios Populares, utilizando modelos de visión por computadora entrenados con datos de acceso públicos. Además, Humai trabaja por la IA por el bien común en Latinoamérica ofreciendo educación especializada y accesible.

En medio de la confusión, el desconcierto y el temor, desde Ashoka creemos en el poder de la tecnología usada para el bien común. Queremos que los Emprendedores Sociales acerquen sus perspectivas a las industrias, a los ecosistemas en los que intentan incidir. Creemos que ellos y ellas son quienes más entienden a la sociedad y sus problemas y que sus miradas amplían derechos, descubren mercados y aportan, siempre, un gran valor.