La rápida expansión de la inteligencia artificial (IA) plantea nuevos desafíos éticos que impactan tanto a las empresas como a la sociedad en su conjunto. En este informe se analizan tres documentos sobre ética, la IA y la educación. Cada texto aporta perspectivas valiosas sobre la necesaria integración de la ética en el desarrollo y uso de la IA, aunque desde enfoques diversos: corporativo, académico y educativo.

El Reto Estratégico

Existe una coincidencia inequívoca desde las tres posturas, el que la ética debe ser un elemento transversal en toda la cadena de valor de la IA, pues, desde ya, “estará siempre con nosotros” (SERES, 2018), por lo que conviene comprenderla, integrarla éticamente y abordarla desde un enfoque integral, abarcando datos, algoritmos, equipos humanos, gobernanza y cultura organizacional. El informe de SERES ofrece, según principios generales de la UNESCO, OCDE y la Estrategia Nacional IA española, recomendaciones prácticas que vinculan la ética con la estrategia empresarial, como la formación de directivos en ética de IA, comités especializados, documentación de procedimientos éticos y alineación de la IA con la estrategia de negocio para un “impacto social positivo”, lo que resultaría en un mejor desempeño financiero empresarial.

Hay que anotar que la perspectiva del informe de SERES es marcadamente corporativa y centrada en el entorno español o europeo. Su lenguaje tiende a ser normativo y listar recomendaciones: Comité de Ética multidisciplinar”, “códigos de conducta”, “canales internos para denuncias”, etc., sin profundizar en los límites de su implementación como la respuesta de la cultura organizacional al ir contra intereses económicos o dilemas éticos (discriminación del algoritmo, vigilancia masiva, transparencia de algoritmos, etc.). En otras palabras, se enumera principios y buenas prácticas, pero sin debate en escenarios reales, sin análisis detallado de cada posible problemática.

Luego de ver “Yo Robot”

Castrillón et al (sf) abordan la cuestión de la ética en IA desde una perspectiva filosófica y urgente. Mencionan que la incorporación de la ética en sistemas inteligentes no es sólo un deseo, sino una “necesidad y una urgencia” imperativa. Plantean que las máquinas pensantes o conscientes son realidades próximas, entrando al debate de sustituir humanos por máquinas, por lo que la ética debe intervenir en la discusión IA, desde el diseño hasta sistemas expertos, redes neuronales, sistemas evolutivos y agentes inteligentes. Sugieren asegurar dos requisitos: las implicaciones IA sobre el empleo; y que las máquinas no atenten contra la integridad humana ni códigos de conducta, todo en el marco de una intersección entre ética, sociedad y tecnología. En suma, extender la ética al ámbito de las máquinas. No obstante, el argumento de los autores es muy general y superficial. Hablar de garantizar que las máquinas no “atenten contra la integridad de los humanos”, está más cerca del principio básico de ficción de Asimov antes que una explicación de cómo implementarla. La discusión sobre el empleo no tiene propuestas específicas. Se menciona la necesidad de tenerlo en cuenta, pero no hay puntos de vista sobre estrategias de reentrenamiento, políticas o respuesta social. En general, hay preguntas urgentes sin soluciones concretas ni casos de estudio. No se trata de ver el panorama como uno de Máquinas vs. Humanos.

IA y Educación

González y Romero (2022) abordan la IA desde el punto de vista educativo proponiendo un cambio de rol: los estudiantes deben pasar de “usuarios pasivos” a “creadores críticos” apoyados en IA “de manera responsable y cuidadosa”, integrándola en un “proceso holístico donde no se pierda lo humano”. Ejemplos de aplicaciones como sistemas inteligentes para seguimiento de aprendizajes, analíticas de datos, predicción de deserción y tableros de control son ideales para incluirse en la alfabetización digital en IA desde niveles básicos hasta lo laboral. Los autores refieren que la IA puede liberar a los docentes de tareas administrativas de bajo nivel, permitiéndoles enfocarse en enseñanza de calidad. Un aporte destacado del texto es definir al docente competente como “irremplazable” enfatizando que la IA complemente, más no necesariamente sustituya la labor empática y el criterio humano dentro de la complejidad educativa. Este enfoque equilibra tecno centrismo y humanismo, reconociendo por un lado el valor de la “data educativa”, y por el otro, la elaboración de políticas de manejo de esos datos para no perder lo humano.

Algo que no contempla el texto en su idea del uso ético de la IA en educación es el estado real de la infraestructura educativa y la capacitación docente. En regiones con limitación de acceso a Internet, los currículos IA son utopía. Solo la educación privilegiada incorporará la IA mientras las otras quedarán rezagadas. Después, al hablarse de “creadores críticos”, no se detalla cómo fomentarlo. ¿Quieren que los alumnos programen sus herramientas IA o que simplemente la usen para proyectos creativos? No se sabe a ciencia cierta pues no lo mencionan. El artículo describe una visión con temas clave, pero no aborda las metodologías de implementación.

Traslado de perspectivas para Perú y Latinoamérica

Los tres documentos coinciden en que la IA tiene y tendrá un impacto social profundo y que la ética no puede ser un añadido secundario, sino un eje central. Para adaptarlos a la realidad peruana y latinoamericana, hay que reconocer características específicas de la región: alta heterogeneidad cultural, brechas de desarrollo, urgencia de inclusión social y escasa capacidad regulatoria. En el ámbito empresarial (SERES) con sus “éticas en todas las etapas”, las empresas tecnológicas peruanas podrían adoptar códigos de ética basados en experiencias internacionales integrando valores latinos como solidaridad comunitaria y protección de derechos colectivos. A nivel de gobierno, la noción de “autoridad supervisora de IA” puede inspirar comisiones consultivas multilaterales en la región. En Perú, ya existe la Carta de Derechos Digitales inspirada en la Estrategia Nacional de IA de España, la que se adapta a la Ley de Protección de Datos Personales peruana, inclusión digital y gobierno abierto. Dado que la sociedad civil latinoamericana es activa en derechos humanos, sería útil vincular IA con agendas comunitarias indígenas o de sectores vulnerables. De este modo, se traslada la idea de SERES para asegurar pluralidad de actores sociales. En el ámbito educativo, las propuestas del último artículo evidencian que formar creadores de IA es clave. En Perú podría reforzarse la educación STEM (Science, Technology, Enginner & Math) con enfoque en ética y responsabilidad social: Universidades y colegios enseñarían programación IA e implicaciones sociales, Gobiernos y empresas pueden convocar Hackatones o IA Labs para desarrollo de proyectos ante problemáticas locales. Ahí si se convierten a los estudiantes en creadores críticos y activos.

¿Posible Solución? El Proyecto LATAM-GPT

América Latina tiene desafíos comunes, por lo que las soluciones aisladas son insuficientes. En este contexto surge LATAM-GPT, un ambicioso proyecto anunciado este año que busca desarrollar un LLM (Large Language Model) “hecho en Latinoamérica, para Latinoamérica”

LATAM-GPT pretende subsanar la carencia de modelos de IA entrenados con datos y referencias a culturales locales, creándose un enfoque de “soberanía digital”, reduciendo sesgos y mejorando la precisión en la región.

El proyecto está financiado por Ministerios de Ciencia, Universidades, Empresas privadas y miles de expertos de la región. A la fecha ya se cuentan con más de 8 Terabytes de información recogida de bibliotecas digitales latinoamericanas y una capacidad de 50 mil millones de parámetros, comparable a GPT-3.5

Esto puede considerarse una iniciativa alineada con los principios éticos señalados en los documentos analizados. Por un lado, tenemos la idea de una IA inclusiva y participativa, con modelo de código abierto y participación de múltiples actores, reforzando la transparencia y la pluralidad, dos valores éticos fundamentales. Centrándose en contenido latinoamericano, el proyecto promueve la representación cultural y lingüística de poblaciones que suelen quedar fuera de los grandes modelos globales, capturando las culturas, idiosincrasias y cosmovisión propias de la historia de América Latina” en un modelo de IA. Ello puede contribuir a que las herramientas de IA respondan mejor a consultas con contexto local y reduzcan malentendidos culturales, respetando la identidad y pluralidad de la región. Desde el plano educativo, LATAM-GPT es una oportunidad con aplicaciones potenciales desde la generación de materiales pedagógicos hasta asistencia para investigadores en ciencias sociales con recursos informativos regionales.

Finalmente, LATAM-GPT puede servir como un catalizador de la confianza social en la IA, pues, al ser de origen regional, puede generar mayor aceptación pública y sentimiento de pertenencia a una tecnología propia.