Diseño de materiales didácticos con perspectiva de género
mediado por IA
Autor
Leandro Guerschberg
Universidad Nacional de José C. Paz
Provincia de Buenos Aires - Argentina
Leandro.guerschberg@docentes.unpaz.edu.ar https://orcid.org/0009-0005-9286-6358
DOI:
10.5281/zenodo.17428672
La perspectiva
de género es un enfoque fundamental para garantizar la inclusión efectiva de
las mujeres y diversidades en todos los niveles educativos, en especial en la
educación superior. A pesar de los avances en la equidad de género, los
materiales didácticos continúan reproduciendo sesgos que invisibilizan
o estereotipan a ciertos grupos. En este contexto, la inteligencia artificial
(IA) se presenta como una herramienta innovadora para asistir a los docentes en
la confección, revisión y adecuación de materiales educativos con una mirada
inclusiva. Este ensayo analiza cómo la IA puede contribuir en dos niveles: por
un lado, en la generación de contenidos con perspectiva de género, y por otro,
en el análisis de materiales existentes mediante algoritmos de procesamiento de
lenguaje natural (PLN) que detectan sesgos y proponen modificaciones. No
obstante, la incorporación de la IA en el ámbito educativo no está exenta de
desafíos, ya que los modelos de aprendizaje automático pueden perpetuar sesgos
si no son diseñados y supervisados adecuadamente. A partir de una revisión
crítica de la literatura y experiencias previas, se argumenta que la IA tiene
el potencial de mejorar la equidad en los materiales educativos, siempre que se
implemente con criterios éticos y un monitoreo continuo.
Palabras clave: Perspectiva de género, inteligencia artificial,
materiales didácticos, equidad educativa, educación superior.
La educación es
un espacio clave para la construcción de sociedades más equitativas e
inclusivas. Sin embargo, a lo largo de la historia, los sistemas educativos han
reproducido desigualdades de género mediante la exclusión, la invisibilización y la estereotipación
de las mujeres y diversidades en los contenidos curriculares y los materiales
didácticos. Desde una mirada crítica, diversos estudios han señalado que los
textos escolares y otros recursos educativos han privilegiado una narrativa
androcéntrica que minimiza o borra las contribuciones de las mujeres en
distintas disciplinas (Subirats & Tomé, 2019).
En la educación
superior, la problemática no se reduce únicamente a los contenidos, sino que se
extiende a las dinámicas institucionales, los sesgos en las evaluaciones y el
acceso a oportunidades académicas y laborales. En este sentido, la perspectiva
de género es fundamental para transformar la educación en un espacio que no
solo reconozca la diversidad, sino que también garantice la equidad en la enseñanza
y el aprendizaje (Bonder, 2018). Aplicada a los
materiales didácticos, esta mirada implica la creación y adecuación de recursos
que representen de manera justa a todos los grupos, desmantelando estereotipos
y promoviendo narrativas inclusivas.
A pesar de los
esfuerzos por incluir la perspectiva de género en el ámbito educativo,
persisten desafíos significativos. Por un lado, la resistencia cultural y la
falta de formación docente en enfoques de género dificultan su implementación
efectiva (Connell, 2020). Por otro, la producción y
revisión de materiales didácticos es un proceso complejo que requiere tiempo,
recursos y una mirada crítica constante. En este contexto, la inteligencia
artificial (IA) emerge como una herramienta con el potencial de asistir en la
detección y corrección de sesgos de género en los materiales educativos, así
como en la generación de nuevos contenidos más equitativos.
En las últimas
décadas, la IA ha revolucionado múltiples ámbitos, incluido el educativo. Desde
sistemas de tutoría inteligente hasta plataformas adaptativas de aprendizaje,
su aplicación ha demostrado ser efectiva para personalizar la enseñanza y
mejorar la experiencia del estudiante (Luckin, 2017).
Uno de los avances más significativos en este campo ha sido el desarrollo de
modelos de procesamiento de lenguaje natural (PLN), capaces de analizar grandes
volúmenes de texto y detectar patrones lingüísticos, incluyendo sesgos de
género (Bolukbasi et al., 2016).
Aplicada a la
educación, la IA podría desempeñar un doble papel en la promoción de la equidad
de género en los materiales didácticos. En primer lugar, como asistente en la
confección de contenidos con perspectiva de género, garantizando que los nuevos
recursos educativos sean inclusivos desde su diseño. En segundo lugar, como
herramienta de análisis para evaluar materiales preexistentes y sugerir
adecuaciones que eliminen sesgos, invisibilizaciones
o representaciones desiguales.
El uso de IA en
la creación de materiales educativos con perspectiva de género es una
oportunidad para reducir el sesgo estructural presente en los contenidos
curriculares. Modelos de IA como ChatGPT, Claude o Gemini
pueden ser entrenados con criterios de equidad para generar textos, ejercicios,
exámenes y otros recursos que utilicen un lenguaje inclusivo, representen
diversas identidades y eviten estereotipos de género.
Un ejemplo de
aplicación es el desarrollo de materiales en áreas donde la representación
femenina ha sido históricamente baja, como la ciencia, la tecnología, la
ingeniería y las matemáticas (STEM). La IA puede contribuir a la creación de
textos y actividades donde se visibilicen los aportes de mujeres y personas no
binarias en estos campos, equilibrando así la narrativa predominante. Según
estudios recientes, la inclusión de modelos a seguir femeninos en los
materiales educativos tiene un impacto positivo en el interés de las niñas y
jóvenes por carreras científicas (Dasgupta &
Stout, 2014).
Otra aplicación
relevante de la IA en la educación con perspectiva de género es el análisis
automatizado de materiales didácticos ya existentes. Mediante técnicas de PLN,
la IA puede identificar sesgos en los textos, evaluar la equidad en la
representación de género y sugerir modificaciones para hacerlos más inclusivos.
Investigaciones
han demostrado que los materiales educativos suelen contener un desequilibrio
en la representación de género, tanto en la cantidad de menciones como en los
roles asignados a cada grupo (Blumberg, 2008). Por
ejemplo, en muchos textos escolares, los personajes masculinos aparecen en
roles activos, mientras que los femeninos son retratados en funciones de
cuidado o pasivas. Una IA entrenada con criterios de equidad podría detectar
estos patrones y recomendar cambios en la redacción para lograr una
representación más justa.
Además, la IA
puede analizar el lenguaje utilizado en los textos educativos, identificando
expresiones sexistas, sesgos implícitos o exclusión de identidades de género
diversas.
Herramientas
como TextAnalyzer han demostrado ser efectivas en la
detección de lenguaje no inclusivo y podrían integrarse en plataformas educativas
para mejorar la calidad de los materiales didácticos (Garg
et al., 2018).
Si bien la IA
ofrece oportunidades para mejorar la equidad de género en la educación, su
implementación también presenta desafíos. Uno de los principales riesgos es la
perpetuación de sesgos en los modelos de IA. Dado que estos sistemas aprenden a
partir de grandes volúmenes de datos, si el corpus de entrenamiento contiene
sesgos de género, la IA podría reforzarlos en lugar de eliminarlos (Caliskan et al., 2017).
Para mitigar
este riesgo, es fundamental que los algoritmos sean entrenados con datos
cuidadosamente seleccionados y supervisados por expertos en equidad de género y
educación. Además, la IA no debe reemplazar el juicio humano, sino servir como
una herramienta complementaria para los docentes y diseñadores de materiales
educativos. La revisión y validación por parte de especialistas en género sigue
siendo un paso crucial en la implementación de estos recursos.
Otro desafío es
la accesibilidad y apropiación de estas tecnologías por parte de los docentes.
Para que la IA sea efectiva en la promoción de la equidad educativa, es
necesario capacitar al cuerpo docente en el uso de estas herramientas y en los
principios de la perspectiva de género. Sin una formación adecuada, existe el
riesgo de que las tecnologías sean utilizadas de manera superficial o incorrecta,
sin generar un impacto real en la transformación de los materiales educativos (Selwyn, 2019).
Por último, la
implementación de IA en el diseño de materiales didácticos requiere de una
infraestructura tecnológica adecuada y de políticas institucionales que
promuevan su uso con criterios de equidad. Esto implica garantizar el acceso a
estas tecnologías en todas las instituciones educativas y establecer marcos
normativos que regulen su aplicación para evitar prácticas discriminatorias o
excluyentes.
Este trabajo
adopta el enfoque del ensayo académico argumentativo, con el objetivo de
explorar críticamente la articulación entre la inteligencia artificial (IA) y
la perspectiva de género en el diseño de materiales didácticos. A partir de una
revisión analítica y selectiva de literatura especializada, se desarrollan
argumentos que visibilizan tanto el potencial como las limitaciones del uso de
tecnologías de IA para promover la equidad de género en contextos educativos,
especialmente en el nivel superior.
La estrategia metodológica se basa en tres pilares:
1. Revisión crítica de fuentes especializadas: Se seleccionaron y analizaron publicaciones
académicas relevantes de los últimos quince años (2008–2023), priorizando
estudios empíricos, metateóricos y ensayos sobre
sesgos algorítmicos, representaciones de género en materiales educativos y
aplicaciones de IA en educación. Se incluyeron también documentos de organismos
internacionales y editoriales científicas reconocidas por su trayectoria en
estudios de género y
tecnología (como CLACSO, Polity Press, Science, PNAS y
ACM).
2. Análisis teórico-conceptual: A partir del marco aportado por autoras y autores como Bonder
(2018), Connell (2020), Bender et al. (2021), Caliskan et al. (2017) y Bolukbasi
et al. (2016), se construyó un abordaje crítico de la relación entre IA y
género, tomando como eje transversal la problemática de los sesgos
estructurales en los materiales didácticos y la necesidad de herramientas
tecnológicas con perspectiva inclusiva.
3. Construcción argumentativa orientada a la acción: El ensayo no solo describe problemáticas
existentes, sino que propone lineamientos para la implementación ética y
contextualizada de herramientas de IA en el ámbito educativo. Las
recomendaciones se fundamentan en la triangulación entre el análisis teórico,
estudios de caso citados y el juicio pedagógico informado del autor como
docente-investigador en educación superior.
Cabe aclarar que
el presente trabajo no pretende constituirse en una investigación empírica con
recolección de datos primarios, sino en una contribución reflexiva y
propositiva al campo de estudio, que busca ampliar el debate sobre la
integración crítica de nuevas tecnologías en clave de justicia social y equidad
de género.
2.1. Limitaciones metodológicas: Como todo ensayo académico basado en
revisión teórica y argumentación crítica, este trabajo presenta ciertas
limitaciones metodológicas que es necesario explicitar para contextualizar el
alcance de sus conclusiones.
2.1.1.
En
primer lugar, la naturaleza no empírica del estudio implica que los
argumentos
desarrollados se basan en la interpretación y análisis de literatura
especializada, sin incluir datos primarios obtenidos mediante técnicas como
entrevistas, encuestas o análisis de contenido sistemático. Si bien se han
seleccionado fuentes académicas relevantes y actualizadas, la ausencia de una
recolección directa de evidencia limita la posibilidad de generalizar los
planteos a contextos específicos o de medir de forma objetiva el impacto de las
herramientas de inteligencia artificial (IA) en la transformación de materiales
didácticos.
2.1.2.
En
segundo lugar, la revisión bibliográfica realizada, aunque exhaustiva y con
criterios de pertinencia temática, no se enmarcó en una metodología sistemática
como PRISMA o revisión sistemática de literatura. Esto puede implicar la
omisión involuntaria de algunos estudios relevantes que hubieran ampliado o
matizado los enfoques presentados.
2.1.3.
En
tercer lugar, el análisis de herramientas de IA disponibles se basa en
referencias académicas y en experiencias de uso documentadas en la literatura,
pero no se incluyó una evaluación técnica directa ni una prueba empírica de
dichas tecnologías en contextos educativos reales. Por lo tanto, los beneficios
y desafíos atribuidos a estas herramientas deben entenderse en términos
potenciales, más que como evidencias verificadas mediante aplicación práctica.
La perspectiva
de género adoptada en el ensayo se apoya en autores y autoras de reconocido
prestigio, pero se reconoce que los enfoques sobre género y tecnología son
diversos y multidimensionales. La selección teórica realizada privilegia una
mirada crítica y decolonial, pero otras
aproximaciones —como las de corte poshumanista, interseccional o transfeminista—
podrían enriquecer futuras investigaciones.
Reconocer estas
limitaciones no debilita el valor del presente trabajo, sino que permite
delimitar con claridad su aporte: una contribución teórica y propositiva al
debate sobre el uso ético, inclusivo y contextualizado de la IA en la
educación, que deberá ser profundizada con estudios empíricos en distintas
realidades educativas.
La inteligencia
artificial (IA) ha transformado el ámbito educativo, permitiendo la
automatización de procesos, la personalización del aprendizaje y la
optimización de la gestión académica (Selwyn, 2019).
Una de las aplicaciones emergentes de la IA en educación es su capacidad para
diseñar, evaluar y corregir materiales didácticos con una perspectiva de
género, contribuyendo a la eliminación de sesgos estructurales en los
contenidos curriculares.
El diseño de
materiales didácticos con equidad de género implica la generación de recursos
que representen de manera justa y balanceada a todas las identidades.
Tradicionalmente, esta tarea ha recaído en docentes y especialistas en género,
quienes deben revisar manualmente los materiales para identificar sesgos,
omisiones y representaciones estereotipadas (Bonder,
2018). Sin embargo, esta labor es demandante en términos de tiempo y recursos,
lo que ha dificultado su implementación sistemática en la educación superior y
en otros niveles educativos.
Con el
desarrollo de modelos de procesamiento de lenguaje natural (PLN) y aprendizaje
automático, la IA puede desempeñar un papel central en la detección y
corrección de desigualdades en los materiales educativos. Herramientas como OpenAI’s GPT-4 o Google’s Gemini, combinadas con bases de datos de referencia en
estudios de género, pueden ayudar en la identificación de patrones
discriminatorios en textos, imágenes y otros formatos de contenido educativo.
Uno de los
principales usos de la IA en la equidad educativa es la generación de contenido
nuevo con un enfoque inclusivo. Esto puede incluir textos de lectura, guías de
estudio, actividades y evaluaciones diseñadas con un lenguaje no sexista,
referencias a figuras históricas y científicas diversas y la integración de
perspectivas no binarias en el discurso educativo.
Las aplicaciones
de IA permiten, por ejemplo, reformular preguntas de exámenes o ejemplos en
libros de texto que perpetúan estereotipos de género. En un estudio realizado
por Blumberg (2008), se evidenció que los textos
escolares tienden a presentar a los hombres en roles de liderazgo, mientras que
las mujeres suelen aparecer en funciones de cuidado o como personajes
secundarios. Una IA programada con principios de equidad de género podría
reescribir estos materiales para asegurar una representación balanceada.
Asimismo, la IA
permite personalizar materiales educativos para audiencias específicas,
adaptando los contenidos según las necesidades y realidades de distintos
grupos. Por ejemplo, en carreras STEM, donde la representación femenina ha sido
históricamente baja, los materiales generados con IA pueden incluir biografías
de científicas destacadas, referencias a contribuciones de mujeres en el campo
y problemáticas de género en la ciencia y la tecnología (Dasgupta
& Stout, 2014).
Además de
generar contenido nuevo, la IA puede analizar materiales ya existentes para
evaluar su equidad de género. Utilizando modelos de PLN, los algoritmos pueden
detectar desequilibrios en la representación de género, sesgos implícitos en la
redacción y lenguaje no inclusivo.
En un estudio
sobre sesgos en libros de texto, Bolukbasi et al.
(2016) demostraron que los modelos de embeddings de
palabras reflejan y amplifican prejuicios de género, como la asociación de
términos como "ingeniero" con el género masculino y
"enfermera" con el femenino. Al aplicar IA para el análisis de
materiales educativos, es posible detectar estas asociaciones y corregirlas
para asegurar una representación equitativa.
Por ejemplo,
plataformas como TextAnalyzer han demostrado ser
efectivas en la identificación de lenguaje sexista en documentos extensos,
sugiriendo modificaciones que eliminan sesgos en la redacción (Garg et al., 2018). Si se aplican estas tecnologías en la
educación, los docentes podrían recibir sugerencias automatizadas sobre cómo
reformular ciertos contenidos para garantizar su inclusividad.
Adicionalmente,
la IA puede evaluar no solo el texto, sino también la representación de género
en imágenes, diagramas y otros elementos visuales dentro de los materiales
didácticos. Investigaciones han mostrado que los libros de texto suelen
representar a los hombres en mayor proporción en roles de autoridad, mientras
que las mujeres aparecen en posiciones subordinadas o de apoyo (Blumberg, 2008). Utilizando visión artificial, la IA puede
analizar estas imágenes y sugerir cambios para mejorar la equidad en la
representación visual.
A pesar de su
potencial, la implementación de la IA en la educación con perspectiva de género
no está exenta de desafíos. Entre los principales riesgos se encuentran la
perpetuación de sesgos en los modelos de IA, la falta de supervisión humana en
la revisión de materiales y las limitaciones en el acceso a estas tecnologías
en ciertos contextos educativos.
Los sistemas de
IA aprenden a partir de grandes volúmenes de datos, lo que implica que pueden
replicar los prejuicios existentes en la sociedad. Investigaciones han
demostrado que los modelos de IA reflejan y amplifican los sesgos de género
presentes en sus bases de datos de entrenamiento (Caliskan
et al., 2017).
Por ejemplo, en
experimentos con modelos de PLN, se ha observado que los algoritmos tienden a
asociar a las mujeres con palabras relacionadas con la familia y el hogar,
mientras que los hombres son vinculados con términos asociados al poder y el
liderazgo (Bolukbasi et al., 2016). Si estos modelos
no son supervisados adecuadamente, su aplicación en la educación podría
reforzar estereotipos en lugar de eliminarlos.
Para mitigar
este problema, es necesario desarrollar algoritmos de IA con criterios
explícitos de equidad de género, incorporando bases de datos diversificadas y
estrategias de auditoría para detectar sesgos en los resultados. Además, la
revisión de los materiales generados por IA debe ser realizada por
especialistas en estudios de género y educación, garantizando que las
adecuaciones sean efectivas y contextualmente apropiadas.
Si bien la IA
puede facilitar el diseño y análisis de materiales educativos, su uso no debe
reemplazar la supervisión y el juicio humano. La equidad de género en la
educación es un proceso complejo que requiere un enfoque crítico y
contextualizado, algo que los modelos de IA aún no pueden realizar de manera
autónoma (Connell, 2020).
En este sentido,
es fundamental que los docentes y diseñadores de materiales educativos sean
capacitados en el uso de estas herramientas y en la perspectiva de género. La
combinación de tecnología con la formación docente puede potenciar la
efectividad de las adecuaciones, asegurando que los materiales sean inclusivos
y pedagógicamente adecuados.
Otro desafío
importante es la disponibilidad y accesibilidad de estas tecnologías en
diferentes contextos educativos. En muchas instituciones, especialmente en
regiones con menos recursos, la infraestructura tecnológica es limitada, lo que
dificulta la implementación de IA en el diseño de materiales didácticos (Selwyn, 2019).
Para que la IA
sea una herramienta efectiva en la promoción de la equidad de género en la
educación, es necesario garantizar su accesibilidad en todas las instituciones.
Esto implica el desarrollo de políticas públicas que fomenten la inclusión de
estas tecnologías en el sistema educativo y la reducción de la brecha digital
que afecta a docentes y estudiantes en contextos vulnerables.
El uso de la
inteligencia artificial en el diseño de materiales didácticos con perspectiva
de género plantea tanto oportunidades como desafíos que deben ser analizados
desde una mirada crítica. Si bien la IA tiene el potencial de optimizar la
producción y revisión de recursos educativos inclusivos, su implementación
efectiva requiere la articulación de múltiples factores, incluyendo la calidad
de los algoritmos, la formación docente y el acceso equitativo a la tecnología.
En este apartado, se discutirán tres ejes clave: la efectividad de la IA para
eliminar sesgos de género en los materiales educativos, la necesidad de
supervisión humana y la accesibilidad de estas tecnologías en distintos
contextos educativos.
¿Puede la IA realmente eliminar los sesgos de género en los materiales
educativos?
Uno de los
argumentos centrales a favor del uso de IA en la educación con perspectiva de
género es su capacidad para detectar y corregir sesgos de manera automatizada.
Herramientas de procesamiento de lenguaje natural pueden identificar patrones
de discriminación en los textos y sugerir modificaciones que promuevan la
equidad en la representación de género (Bolukbasi et
al., 2016). Sin embargo, existen límites importantes en la efectividad de la IA
para esta tarea, dado que los modelos de aprendizaje automático son entrenados
con grandes volúmenes de datos que, en muchos casos, ya contienen sesgos
estructurales.
Estudios han
demostrado que los sistemas de IA tienden a reflejar y amplificar los
prejuicios presentes en la sociedad, lo que significa que su uso en la
educación debe ser monitoreado de manera rigurosa para evitar la reproducción
de estereotipos (Caliskan et al., 2017). Esto plantea
un dilema: si bien la IA puede ayudar a mejorar la equidad de género en los
materiales educativos, su implementación no garantiza resultados neutros o
justos de manera automática. La tecnología no es intrínsecamente neutral; más
bien, su impacto depende de cómo sea diseñada y utilizada.
Por lo tanto,
una de las principales discusiones en torno a esta temática es hasta qué punto
la IA puede actuar como un agente de cambio en la equidad educativa. Algunos
investigadores sugieren que, en lugar de confiar plenamente en la IA para
corregir sesgos, es necesario desarrollar estrategias híbridas donde la IA sea
utilizada como herramienta de apoyo, pero siempre bajo supervisión humana
(Bender et al., 2021). En este sentido, la IA puede facilitar el trabajo de
revisión de materiales didácticos, pero no debe reemplazar el juicio crítico de
docentes y especialistas en género.
Supervisión humana: el rol clave de docentes y especialistas en género
Otro punto
central en la discusión es la necesidad de supervisión humana en el uso de IA
para la creación y adecuación de materiales didácticos con perspectiva de
género. Si bien los algoritmos pueden analizar textos y detectar patrones de
desigualdad, su capacidad para comprender el contexto sociocultural de la
educación es limitada (Selwyn, 2019).
La
implementación efectiva de la IA en la educación requiere un enfoque de
colaboración entre tecnología y pedagogía. Los docentes no solo deben estar
capacitados en el uso de herramientas de IA, sino que también deben poseer
formación en perspectiva de género para evaluar críticamente las sugerencias
generadas por los sistemas automatizados. La supervisión humana es crucial para
interpretar adecuadamente las recomendaciones de la IA y garantizar que las
modificaciones en los materiales educativos sean relevantes y contextualmente
apropiadas.
Un problema
recurrente en el uso de tecnologías automatizadas en la educación es la falsa
percepción de objetividad. Muchos usuarios asumen que la IA produce resultados
neutrales y precisos, cuando en realidad los modelos de IA reflejan los valores
y sesgos presentes en los datos con los que fueron entrenados (Bender et al.,
2021). Si los docentes no cuentan con las herramientas necesarias para evaluar
críticamente los materiales generados por IA, existe el riesgo de que se
acepten de manera acrítica cambios que no necesariamente contribuyen a la
equidad de género.
En este sentido,
se plantea la necesidad de integrar la capacitación en IA y equidad de género
en la formación docente. Esto permitiría que los educadores no solo comprendan
cómo funcionan estas herramientas, sino que también puedan utilizarlas de
manera efectiva para mejorar la calidad de los materiales didácticos.
Un tercer eje de
discusión es la brecha digital y la desigualdad en el acceso a tecnologías de
IA en el ámbito educativo. Aunque la IA ofrece oportunidades para mejorar la
equidad de género en la enseñanza, su implementación no es homogénea en todos
los contextos educativos.
En instituciones
con mayores recursos, los docentes pueden acceder a herramientas avanzadas de
IA para la generación y evaluación de materiales didácticos. Sin embargo, en
muchas regiones con menor infraestructura tecnológica, el acceso a estas
herramientas es limitado, lo que puede generar una brecha aún mayor en la
calidad educativa (Selwyn, 2019).
El uso de IA en
la educación con perspectiva de género debe ir acompañado de políticas públicas
que garanticen su accesibilidad en todos los niveles educativos. Esto implica
desarrollar software de código abierto, capacitar a los docentes en su uso y
garantizar que las tecnologías estén disponibles en instituciones con menos
recursos. De lo contrario, la implementación de IA en la educación podría
beneficiar únicamente a ciertos sectores de la población, reproduciendo
desigualdades en lugar de reducirlas.
En este sentido,
es importante considerar un enfoque de equidad en la distribución de
tecnologías educativas. Los sistemas de IA diseñados para mejorar la inclusión
de género en los materiales didácticos deben ser accesibles para todas las
comunidades, independientemente de su nivel socioeconómico o ubicación
geográfica.
La integración
de la perspectiva de género en la educación es una necesidad ineludible para
garantizar la inclusión real de mujeres y diversidades en todos los niveles
educativos, en
especial en la
educación superior. A pesar de los avances normativos y pedagógicos en materia
de equidad de género, los materiales didácticos continúan reproduciendo sesgos
que refuerzan estereotipos, invisibilizan
contribuciones femeninas y limitan la representación de identidades diversas.
En este contexto, la inteligencia artificial (IA) surge como una herramienta
con el potencial de transformar la manera en que se diseñan, revisan y adaptan
los materiales educativos, permitiendo una mayor equidad en su contenido y
representación.
Este ensayo ha
demostrado que la IA puede desempeñar un doble papel en la inclusión de la
perspectiva de género en los materiales educativos: primero, como asistente en
la creación de recursos más inclusivos y equitativos desde su concepción, y
segundo, como herramienta para la revisión y adecuación de materiales
preexistentes, eliminando sesgos lingüísticos, visuales y narrativos. Los
avances en procesamiento de lenguaje natural (PLN) y aprendizaje automático han
permitido desarrollar sistemas capaces de analizar textos, detectar
estereotipos de género y proponer modificaciones alineadas con principios de
equidad e inclusión.
Sin embargo, la
aplicación de la IA en este ámbito no está exenta de desafíos. Uno de los
principales problemas identificados es la posibilidad de que los propios
modelos de IA reproduzcan y amplifiquen sesgos preexistentes en sus bases de
datos de entrenamiento. Estudios previos han demostrado que los algoritmos de
aprendizaje automático pueden reflejar las desigualdades históricas presentes
en los textos y discursos con los que han sido entrenados, lo que implica la
necesidad de una supervisión humana constante en la implementación de estas
herramientas.
Asimismo, se ha
evidenciado que el uso de IA en la educación con perspectiva de género no puede
depender únicamente de la tecnología, sino que debe enmarcarse dentro de una
estrategia pedagógica integral que incluya la capacitación docente y la
implementación de políticas institucionales que promuevan la equidad en el
aula. La supervisión de docentes y especialistas en género es fundamental para
garantizar que los cambios en los materiales educativos sean pertinentes y
contextualizados, evitando interpretaciones mecánicas o insuficientes por parte
de la IA.
Otro punto clave
en las conclusiones de este trabajo es la desigualdad en el acceso a
tecnologías de IA en distintos contextos educativos. Si bien la IA puede ser
una herramienta poderosa para la equidad de género, su implementación efectiva
requiere infraestructura tecnológica, formación específica y recursos que no
están igualmente distribuidos en todas las instituciones. Para evitar que la
brecha digital profundice las desigualdades en el acceso a materiales
didácticos inclusivos, es imprescindible el desarrollo de políticas públicas
que fomenten el acceso equitativo a estas herramientas en todas las regiones y
niveles educativos.
A partir del
análisis realizado, se pueden extraer las siguientes recomendaciones para una
implementación efectiva de IA en el diseño de materiales educativos con
perspectiva de género:
● Para reducir la perpetuación de sesgos en
los modelos de IA, es fundamental entrenar estos algoritmos con conjuntos de
datos que representen de manera justa a mujeres y diversidades, incorporando
narrativas inclusivas y evitando fuentes que refuercen desigualdades
estructurales. Para ello será necesario desarrollar bases de datos con enfoque
de equidad.
● La tecnología por sí sola no garantiza la
inclusión; es necesario que los docentes cuenten con formación específica en el
uso crítico de la IA y en estrategias pedagógicas para integrar la perspectiva
de género en sus materiales y prácticas de enseñanza y por lo tanto deberán
generarse capacitaciones para esos docentes tanto en IA como en equidad de
género
● La IA debe ser una herramienta
complementaria, no un reemplazo del juicio crítico de los educadores. Se
recomienda establecer mecanismos de supervisión en la generación y adecuación
de materiales didácticos, asegurando que los cambios sean pertinentes y
contextualizados. Por supuesto, esto deberá ser auditado permanentemente por
docentes previamente capacitados
● Para evitar que la brecha digital afecte
la implementación de IA en la educación con perspectiva de género, es
fundamental desarrollar estrategias de acceso equitativo a estas herramientas
en todas las instituciones educativas, especialmente en aquellas con menor
infraestructura tecnológica.
● La implementación de IA en el ámbito
educativo debe estar acompañada de marcos normativos que regulen su uso,
asegurando que las herramientas tecnológicas sean aplicadas de manera ética y
con un enfoque centrado en la equidad y los derechos humanos.
Si bien la inteligencia artificial ofrece una oportunidad única para
mejorar la equidad de género
en los
materiales educativos, su implementación efectiva requiere un enfoque
multidimensional que combine la tecnología con la pedagogía, la supervisión
humana y la accesibilidad. Si se utilizan de manera adecuada, las herramientas
de IA pueden contribuir significativamente a la transformación de la educación
en un espacio más inclusivo, en el que todas las identidades sean representadas
de manera justa y equitativa. Sin embargo, esta transformación solo será
posible si la implementación de IA en la educación está acompañada de una
reflexión crítica, una regulación adecuada y un compromiso real con la equidad
de género en el ámbito educativo.
El presente
trabajo, centrado en un enfoque teórico y argumentativo, abre una serie de
líneas de investigación que pueden ser desarrolladas a partir de estudios
empíricos, comparativos y experimentales, con el fin de profundizar el análisis
sobre el papel de la inteligencia artificial (IA) en la construcción de
materiales didácticos con perspectiva de género.
1. Evaluación empírica del impacto de IA en la revisión de materiales
educativos: Una línea
prioritaria consiste en estudiar cómo herramientas de procesamiento de lenguaje
natural aplicadas a contextos reales —como editoriales, plataformas virtuales o
instituciones educativas— modifican la composición de materiales didácticos.
Esto implicaría analizar de forma sistemática si las sugerencias generadas por
IA efectivamente contribuyen a reducir sesgos de género y promover
representaciones más inclusivas.
2. Percepciones docentes sobre la IA con perspectiva de género: Resulta relevante investigar cómo
perciben los y las docentes la utilidad, confiabilidad y aplicabilidad de las
herramientas de IA en el aula, especialmente en lo que respecta a la equidad de
género. Estudios cualitativos basados en entrevistas o grupos focales podrían
aportar valiosa información sobre resistencias, desafíos formativos y
necesidades institucionales.
3. Diseño y prueba de prototipos inclusivos basados en IA: Otra línea de trabajo apunta al
desarrollo de tecnologías educativas con criterios explícitos de equidad de
género. Esto podría incluir la creación de modelos entrenados con corpus
diversos, algoritmos auditables y herramientas accesibles de código abierto. Su
implementación piloto en distintas instituciones permitiría evaluar su eficacia
y pertinencia.
4. Estudios interseccionales sobre sesgos en
materiales didácticos: Si
bien el presente ensayo se centró en el enfoque de género, sería enriquecedor
articularlo con otras categorías de análisis como etnicidad, clase social,
discapacidad u orientación sexual. La investigación de sesgos interseccionales en los recursos educativos y su corrección
mediante IA representa un campo emergente con fuerte potencial transformador.
5. Análisis comparativo regional y global: Finalmente, se propone desarrollar estudios que
comparen la adopción y el impacto de tecnologías de IA con perspectiva de
género en diferentes contextos socioculturales y regiones del mundo. Esto
permitiría identificar buenas prácticas, barreras estructurales y marcos
normativos efectivos para orientar
políticas públicas
en educación y
tecnología.
Estas líneas de
investigación se proponen para avanzar desde la reflexión crítica hacia la
producción de conocimiento situado, interdisciplinario y comprometido con la
transformación social en clave de justicia educativa y equidad de género.
1. Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big?. Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 610–623.
https://doi.org/10.1145/3442188.3445922
2. Blumberg, R.L. The invisible obstacle to educational equality: gender bias in textbooks. Prospects 38, 345–361 (2008). https://doi.org/10.1007/s11125-009-9086-1
3. Bonder, G. (2018). Educación y género: desafíos para la equidad. Buenos Aires:
CLACSO.
4. Bolukbasi, T., Chang, K. W., Zou, J. Y., Saligrama, V., & Kalai, A. (2016). Man is to computer programmer as woman is to homemaker? Debiasing word embeddings.
Advances in Neural Information Processing Systems, 29.
https://arxiv.org/abs/1607.06520
5. Caliskan, A., Bryson, J. J., & Narayanan, A. (2017). Semantics derived automatically from language corpora contain human-like biases. Science, 356(6334), 183-186. https://doi.org/10.1126/science.aal4230
6. Connell, R. (2020). Gender: In world perspective. Polity Press.
7. Dasgupta, N., & Stout, J. G. (2014). Girls and women in science, technology, engineering, and mathematics: STEMing the tide and broadening participation in STEM careers. Policy Insights from the Behavioral and Brain Sciences, 1(1), 21-29. https://doi.org/10.1177/2372732214549471
8. Garg, N., Schiebinger, L., Jurafsky, D., & Zou, J. (2018). Word embeddings quantify
100 years of gender and ethnic stereotypes. Proceedings of the National Academy of Sciences, 115(16), E3635-E3644. https://doi.org/10.1073/pnas.1720347115
9. Luckin, R. (2017). Enhancing learning and teaching with technology: What the research says. UCL Institute of Education Press.
10. Selwyn, N. (2019). Should robots replace teachers? AI and the future of education. Polity Press.
11. Subirats, M., & Tomé, A. (2019). Los chicos y las chicas en los libros de texto: Un análisis de la invisibilidad de las mujeres en la enseñanza. Editorial Octaedro.