Instituto de Estudios Políticos y Derecho Público "Dr. Humberto J. La Roche"
de la Facultad de Ciencias Jurídicas y Políticas de la Universidad del Zulia
Maracaibo, Venezuela
Esta publicación cientíca en formato digital es continuidad de la revista impresa
ISSN-Versión Impresa 0798-1406 / ISSN-Versión on line 2542-3185Depósito legal pp
197402ZU34
ppi 201502ZU4645
Vol.41 N° 79
Octubre
Diciembre
2023
ISSN 0798- 1406 ~ De pó si to le gal pp 198502ZU132
Cues tio nes Po lí ti cas
La re vis ta Cues tio nes Po lí ti cas, es una pu bli ca ción aus pi cia da por el Ins ti tu to
de Es tu dios Po lí ti cos y De re cho Pú bli co “Dr. Hum ber to J. La Ro che” (IEPDP) de la Fa-
cul tad de Cien cias Ju rí di cas y Po lí ti cas de la Uni ver si dad del Zu lia.
En tre sus ob je ti vos fi gu ran: con tri buir con el pro gre so cien tí fi co de las Cien cias
Hu ma nas y So cia les, a tra vés de la di vul ga ción de los re sul ta dos lo gra dos por sus in ves-
ti ga do res; es ti mu lar la in ves ti ga ción en es tas áreas del sa ber; y pro pi ciar la pre sen ta-
ción, dis cu sión y con fron ta ción de las ideas y avan ces cien tí fi cos con com pro mi so so cial.
Cues tio nes Po lí ti cas apa re ce dos ve ces al año y pu bli ca tra ba jos ori gi na les con
avan ces o re sul ta dos de in ves ti ga ción en las áreas de Cien cia Po lí ti ca y De re cho Pú bli-
co, los cua les son so me ti dos a la con si de ra ción de ár bi tros ca li fi ca dos.
ESTA PU BLI CA CIÓN APA RE CE RE SE ÑA DA, EN TRE OTROS ÍN DI CES, EN
:
Re vicyhLUZ, In ter na tio nal Po li ti cal Scien ce Abs tracts, Re vis ta In ter ame ri ca na de
Bi blio gra fía, en el Cen tro La ti no ame ri ca no para el De sa rrol lo (CLAD), en Bi blio-
gra fía So cio Eco nó mi ca de Ve ne zue la de RE DIN SE, In ter na tio nal Bi blio graphy of
Po li ti cal Scien ce, Re vencyt, His pa nic Ame ri can Pe rio di cals In dex/HAPI), Ul ri ch’s
Pe rio di cals Di rec tory, EBS CO. Se en cuen tra acre di ta da al Re gis tro de Pu bli ca cio-
nes Cien tí fi cas y Tec no ló gi cas Ve ne zo la nas del FO NA CIT, La tin dex.
Di rec to ra
L
OIRALITH
M. C
HIRINOS
P
ORTILLO
Co mi té Edi tor
Eduviges Morales Villalobos
Fabiola Tavares Duarte
Ma ría Eu ge nia Soto Hernández
Nila Leal González
Carmen Pérez Baralt
Co mi té Ase sor
Pedro Bracho Grand
J. M. Del ga do Ocan do
José Ce rra da
Ri car do Com bel las
An gel Lom bar di
Die ter Nohlen
Al fre do Ra mos Ji mé nez
Go ran Ther born
Frie drich Welsch
Asis ten tes Ad mi nis tra ti vos
Joan López Urdaneta y Nil da Ma rín
Re vis ta Cues tio nes Po lí ti cas. Av. Gua ji ra. Uni ver si dad del Zu lia. Nú cleo Hu ma nís ti co. Fa-
cul tad de Cien cias Ju rí di cas y Po lí ti cas. Ins ti tu to de Es tu dios Po lí ti cos y De re cho Pú bli co
“Dr. Hum ber to J. La Ro che”. Ma ra cai bo, Ve ne zue la. E- mail: cues tio nes po li ti cas@gmail.
com ~ loi chi ri nos por til lo@gmail.com. Te le fax: 58- 0261- 4127018.
Vol. 41, Nº 79 (2023), 629-641
IEPDP-Facultad de Ciencias Jurídicas y Políticas - LUZ
Recibido el 02/05/23 Aceptado el 08/10/23
Políticas educativas en torno al uso de
la inteligencia articial: Debates sobre su
viabilidad ética
DOI: https://doi.org/10.46398/cuestpol.4179.42
Luis Augusto Durand-Azcárate *
Graciela Esther Reyes-Pastor **
Susan Cristy Rodríguez-Balcázar ***
Ena Cecilia Obando-Peralta ****
Resumen
El ensayo tiene como objetivo analizar el papel de las políticas
educativas en torno a la inteligencia articial y las implicaciones
éticas de esta discusión. Para lograr tal n, se centra especial
atención en los siguientes aspectos: 1. La conceptualización
teórica de la inteligencia articial, donde se destaca la capacidad
de las máquinas para realizar labores que, mediante algoritmos,
puedan simular la actividad humana. 2. Las políticas educativas en
torno al uso de la inteligencia articial, que, si bien no poseen un marco
de actuación internacional, los lineamientos emanados por organismos
internacionales apuntan al uso inclusivo y equitativo de estas tecnologías,
con miras a consolidar la educación, minimizar las desigualdades sociales,
logrando alcanzar el más óptimo de los rendimientos. 3. Los dilemas éticos
suscitados por la IA, entre los que destacan la pérdida de privacidad, los
intereses comerciales y políticos de trasfondo, la ampliación de las brechas
sociales, la exclusión y el continuo temor al surgimiento de la vigilancia
digital. El método utilizado para la elaboración de la investigación fue
la exploración documental. Se concluye en la urgencia de implementar
políticas educativas acordes a las demandas de la sociedad digital, teniendo
como n el fortalecimiento de la educación.
Palabras clave: Inteligencia articial; políticas educativas; dilemas
éticos; tecnologías; sociedad digital.
* Universidad Privada del Norte. ORCID ID: https://orcid.org/0000-0002-2590-7333. Email: augusto.
durand@upn.edu.pe
** Universidad Privada Antenor Orrego. ORCID ID: https://orcid.org/0000-0002-8206-1717. Email:
greyesp@upao.edu.pe
*** Universidad Privada Antenor Orrego. ORCID ID: https://orcid.org/0000-0003-3649-7496. Email:
srodriguezb1@upao.edu.pe
**** Universidad Católica de Trujillo. ORCID ID: https://orcid.org/0000-0001-5734-6764. Email:
e.obando@uct.edu.pe
630
Luis Augusto Durand-Azcárate, Graciela Esther Reyes-Pastor, Susan Cristy Rodríguez-
Balcázar y Ena Cecilia Obando-Peralta
Políticas educativas en torno al uso de la inteligencia articial: Debates sobre su viabilidad ética
Educational Policies around the use of Articial
Intelligence: Debates about its Ethical Feasibility
Abstract
The purpose of this essay is to analyze the role of educational policies
regarding articial intelligence and the ethical implications of this
discussion. The theoretical conceptualization of articial intelligence,
which emphasizes the ability of machines to perform tasks that, through
algorithms, can simulate human activity. Educational policies regarding
the use of articial intelligence, which, although they do not have an
international framework for action, the guidelines issued by international
organizations point to the inclusive and equitable use of these technologies,
with a view to consolidating education, minimizing social inequalities and
achieving the best possible performance. The ethical dilemmas raised by
AI, including loss of privacy, underlying commercial and political interests,
widening social gaps, exclusion and the continuing fear of the emergence
of digital surveillance. The method used for the elaboration of the research
was documentary exploration. It is concluded that it is urgent to implement
educational policies in accordance with the demands of the digital society,
aiming at strengthening education.
Keywords: Articial intelligence; educational policies; ethical dilemmas;
technologies; digital society.
Introducción
Surgida de las ciencias de la computación, la inteligencia articial (IA)
reúne una serie de cualidades tecnológicas, teóricas, epistémicas, éticas,
que se integran a diversas perspectivas multifocales y multidisciplinares
para afrontar y comprender este fenómeno cientíco-tecnológico. El
objetivo ulterior del desarrollo de la IA no es la sustitución de la inteligencia
humana, sino actuar en benecio de la colectividad, aplicando una serie de
métodos y técnicas que faciliten la vida diaria.
En su desarrollo y evolución, la IA ha presentado una serie de
cuestionamientos y problematizaciones éticas, que han derivado en
diversos estudios y enfoques analíticos. En los últimos tiempos, son
nutridas las contribuciones académicas realizadas sobre la temática,
entre las que destacan la evaluación de la IA en el ensimismamiento o la
distorsión de la realidad de los individuos, lo que podría estar sujeto a la
violencia o fomento de la cultura de adicción a la realidad virtual (Vidovic,
2021); también se destaca la vinculación con el gobierno digital, dada sus
cualidades inteligentes, que favorecerían las distintas actividades del sector
631
CUESTIONES POLÍTICAS
Vol. 41 Nº 79 (2023): 629-641
público, incrementando la eciencia y reduciendo los gastos operativos
(Fursykova et. al., 2023); en lo tocante al escenario latinoamericano,
se evalúa la necesidad de integrar la IA a la educación y la vida regular
ciudadana, aportando una serie de elementos indispensables para el
desarrollo regional (Torres et. al., 2023), entre otros estudios destacables.
Partiendo de esta realidad, se concibe la importancia de los usos de la IA
en los diversos escenarios sociales, particularmente en la educación, con la
nalidad de impulsar el desarrollo tecnológico, fortalecer el conocimiento,
propiciar los aprendizajes autónomos, entre otros aspectos. Sin embargo,
no existen políticas claras sobre la regulación, usos y alcances de la IA en
la educación, diriendo sustancialmente de país a país. Pese a esto, los
esfuerzos por analizar la situación y ampliar la discusión en torno a esta
materia es importante, de donde se busca promover el debate y sumar
esfuerzos para la regularización de políticas educativas y de líneas de
actuación acordes a la realidad sobre el uso y manejo de la IA.
1. La Inteligencia Articial: conceptualización teórica
La IA es entendida como la capacidad de las máquinas para el uso de
algoritmos, el aprendizaje de datos y la toma de decisiones que, en base a
ciertos criterios, permita procesar grandes cantidades de información en
un corto período de tiempo. Entre las ventajas ofrecidas, se encuentra la
disminución porcentual de los errores humanos, perlando que, con el paso
del tiempo, podrían llegar a ocupar espacios destinados exclusivamente
para la actividad humana (Rouhiainen, 2018).
Si bien es cierto, es en el siglo XXI cuando el desarrollo de la IA ocupa
espacios privilegiados en diversas disciplinas cientícas y se considera
indispensable para el progreso cientíco, económico y social, es en la década
de los años cincuenta del siglo XX, cuando Alan Turning (1912-1954),
conocido pionero en este campo, plantea la idea de que los ordenadores
podrían llegar a tener comportamientos inteligentes, desarrollar
aprendizajes e, incluso, competir con los seres humanos en actividades
intelectuales avanzadas (Alonso, 2021). De acuerdo a lo planteado en
su artículo “Computing machinery and intelligence” del año 1950, la
IA es denida como un campo de investigación novedoso, destinado a
revolucionar la informática mediante la aparición de máquinas que podrían
simular la actividad humana en determinados contextos (Vidal, 2007).
Además de su postura teórica, Turing fue conocido por la implementación
de la “máquina de Turing” que, bajo cierto esquema de procesamiento de
datos, soportado en un sistema binario, pudo lograr procesar cualquier tipo
de cálculo, a lo que posteriormente llamaría “la prueba de la máquina de
Turing”, donde una máquina tenía la posibilidad de adoptar un pensamiento
632
Luis Augusto Durand-Azcárate, Graciela Esther Reyes-Pastor, Susan Cristy Rodríguez-
Balcázar y Ena Cecilia Obando-Peralta
Políticas educativas en torno al uso de la inteligencia articial: Debates sobre su viabilidad ética
especíco, capaz de copiar las respuestas humanas. Esto signicó un cambio
paradigmático para la época y el comienzo de la IA que conocemos en la
actualidad, que en su recorrido tuvo que integrarse a diversas disciplinas y
formas de conocimiento (Ocaña et. al., 2019).
La inteligencia, en un sentido genérico, se concibe en múltiples
dimensiones: la IA se múltiples dimensiones tecnológicas y prospectivas
para el cambio, al demostrar comportamientos que simulan, desde
programas informáticas, habilidades humanas. No obstante, no está en la
facultad de emitir juicios valorativos, actitudes mentales y emocionales,
pensamiento abstracto y acumular experiencias, para, de una manera
crítica, fortalecer el saber en benecio de la colectividad, lo que es propio
de la inteligencia humana (González & Martínez, 2020).
Para Ocaña et. al., (2019), la IA está determinada por la transversalidad,
por la capacidad de conectarse con la información del mundo, buscando
la resolución de problemas especícos. Como parte de las ciencias
informáticas, se encarga del diseño de sistemas inteligentes y de que estos
puedan emular la inteligencia humana; en otras palabras, la IA, proporciona
una variedad de métodos, técnicas y herramientas para resolver una serie
de problemáticas. Claro está, es ese carácter multifacético lo distintivo de la
IA, lo que también hace que sea entendida como la búsqueda permanente
del signicado de la inteligencia humana, de sus límites y posibilidades.
González y Martínez (2020), consideran que, adicional a los problemas
históricos y terminológicos que han acompañado el desenvolvimiento de la
IA, existen una serie de problematizaciones losócas y epistemológicas,
que llevan a considerar los siguientes aspectos:
• La IA tiene como miras la resolución de problemas humanos prácticos
y precisos, por lo que puede imitar una serie de comportamientos,
pero no los aspectos emocionales ni al manejo de las capacidades
humanas, lo que deriva en el cuestionamiento de si el uso del término
inteligencia sea el más adecuado para las tecnologías digitales. Dicha
discusión tiene un trasfondo epistemológico importante, que ha de
profundizarse, en miras del fortalecimiento de los estudios en IA y
en la denición de lo propio de la naturaleza humana.
• La IA es autónoma, mantiene la guía y el cuidado del ser humano,
por lo que está sujeta a la malevolencia y a procesos que atentan
contra el benecio común.
• La IA no tiene la capacidad de discernir en temas o dilemas éticos,
por lo que su actuación se encuentra limitada. Si bien puede simular
comportamientos humanos, no es lo mismo que el carácter volitivo
y la actividad pensante desarrollada por el ser humano.
633
CUESTIONES POLÍTICAS
Vol. 41 Nº 79 (2023): 629-641
• La IA es amoral, carente de connotación de una moralidad propia,
incapaz de distinguir el bien y el mal, por lo que está determinada
por la acción del hombre.
• El uso de la IA invita a un constante reexionar sobre su signicado
para la para la ciencia y para el proceder dentro de la sociedad.
Dada la versatilidad que tiene desde sus inicios, la IA está determinada
por un carácter interdisciplinar y transversal, destacándose su uso en
actividades computacionales, comerciales, en ciencias de la salud, por citar
algunas. Entendido así, la IA podría servir de benecio para el desarrollo
social y para la operatividad eciente en determinadas labores, lo que
emplaza a tomar en consideración su uso, aplicabilidad y proyección en los
escenarios actuales.
Para Rouhiainen (2018), la IA ha tenido un avance signicativo en las
siguientes áreas especícas:
• Reconocimiento, clasicación y etiquetado de imágenes, siendo útil
para diversas industrias.
• Mejoras en los algoritmos comerciales y nancieros.
• Procesamiento eciente de datas médicas.
• Predicción para el trabajo industrial,
• Clasicación de objetos en automóviles y en otros campos.
• Distribución del contenido en redes sociales, como herramienta de
marketing y de difusión de las informaciones de dominio público.
• Resguardo de la seguridad cibernética.
A los elementos antes enumerados, se suman otra serie de cualidades,
como la aparición de los asistentes virtuales, las aplicaciones móviles
y otra serie de herramientas que pueden considerarse IA, que tienen
como tarea el procesamiento de datos, el trabajo comercial, sanitario,
empresarial, comunicacional, además de integrarse, recientemente, al
ámbito de educativo y cultural. En los últimos años, los cambios en las
comunicaciones, la masicación del internet y la digitalización inducida por
la pandemia COVID-19, han dado cabida al uso de la IA a nuevos niveles, a
cuestionar sus dimensiones políticas y educativas, a la vez que se plantea el
cuestionamiento de cómo abrirse paso dentro de la sociedad global.
634
Luis Augusto Durand-Azcárate, Graciela Esther Reyes-Pastor, Susan Cristy Rodríguez-
Balcázar y Ena Cecilia Obando-Peralta
Políticas educativas en torno al uso de la inteligencia articial: Debates sobre su viabilidad ética
2. Inteligencia Articial y Políticas Educativas sobre su uso e
implementación
Según los planteamientos de la Organización de las Naciones Unidas
para la Educación, la Ciencia y la Cultura, ofrecidos en el Consenso de
Beijing sobre la Inteligencia Articial y la Educación (2019), considera
que la IA tiene la cualidad de hacer frente a los desafíos actuales de la
educación, propiciar prácticas de enseñanza-aprendizaje caracterizadas por
la innovación y como herramienta de ayuda para el logro de los objetivos
del desarrollo sostenible. Pese a esto, los riesgos éticos, los debates políticos
y las normativas sobre su uso, son objeto de discusión permanente.
Desde las consideraciones de la UNESCO (2019), se insta al uso de la IA,
con un carácter inclusivo y equitativo, cuya meta sea promover la educación
y, en consecuencia, minimizar las desigualdades sociales, la exclusión en
la educación y generar contextos educativos interculturales, apoyados en
el uso de diferentes tecnologías, obteniendo el mejor aprovechamiento
de estas. Lograr esto, implica un despliegue tecnológico importante y la
capacidad de adaptar la educación a las exigencias globales, que demandan
prácticas de enseñanza acordes a las exigencias de los objetivos del
desarrollo sostenible.
Claro está, esta modalidad educativa requiere de planicación, de
desarrollo de políticas educativos acordes a los contextos sociales,
participación ciudadana e integración a las comunidades, lo que signica
un nuevo modelo educativo y tecnológico, pensado para la inclusión, para
minimizar los riesgos y para el aprendizaje personalizado y autónomo.
Esto se traduce en desarrollo de habilidades técnicas, sin perder de vista el
pensamiento crítico y el papel ético y político de trasfondo.
Según lo planteado por la UNESCO (2019), la evolución de la IA es un
asunto humano, que tiene impacto dentro de la sociedad, la cultura, la
economía, el mercado laboral y la educación, donde se da paso a un sistema
de aprendizaje distinto, lo que hace que su presencia en el futuro exija la
formación en competencias digitales precisas, afectando los cimientos de
las políticas educativas de la actualidad. En línea general, la IA plantea
una nueva conceptualización de la educación, la docencia y el aprendizaje.
Asume la educación como compleja, como un proceso de interacciones
múltiples, conducentes al bienestar humano.
En efecto, la IA no viene a sustituir lo humano, sino a garantizar el
ejercicio de los derechos humanos, a respaldar los sistemas axiológicos de la
sociedad y a construir un futuro caracterizado por el desarrollo sostenible,
donde el pensamiento esté centrado en el servicio a las personas, buscando
nes altruistas, pensado para le equidad, la transparencia y para dar
impactos sobre la calidad de vida.
635
CUESTIONES POLÍTICAS
Vol. 41 Nº 79 (2023): 629-641
En lo tocante a las políticas educativas vinculantes a la IA, se pretende
amalgamar la IA con el acto educativo, con políticas públicas enfocadas
en el desarrollo sostenible. De esta manera, planicación de políticas
educativas y el uso de la inteligencia educativa convergen en una dinámica
permanente, caracterizada por diversos aspectos que se han de considerar,
como la necesidad de inversión, los desequilibrios sociales, las falencias
del Estado, las capacidades públicas y privadas de asimilación de la IA,
los intereses conservadores y la urgencia de una adecuada gestión para
transformar políticas educativas caducas en políticas educativas adaptadas
a los avances vertiginosos de la sociedad digital (UNESCO, 2019).
En virtud de lo anterior, la IA ha de insertarse en los modelos educativos,
en la práctica docente y en las instituciones, buscando el benecio
estudiantil, pero también de las comunidades, sin que la interacción
con tecnología de punta signique el quiebre de las relaciones humanas.
Aunque el componente humano y las interacciones con la alteridad son
fundamentales, la aparición de la IA en el contexto educativo demanda
la revisión de conceptos clave dentro de la enseñanza, como la función
docente, las competencias a desarrollar, la formación tecnológica y las
capacidades para el trabajo efectivo.
En el plano académico las virtudes del uso de la IA son muchas,
entendiéndose como posibilidades de interacción con las ciencias de
la salud, las ciencias sociales, la ingeniería, la informática, las ciencias
empresariales y otras disciplinas que buscan estimaciones reales en tiempo
récord, procesar cuantiosa información rápidamente, utilizando sistemas
determinados por la IA. El desarrollo de algoritmos y la presencia en
diversos campos de la ciencia, llevan a su difusión, aplicación e integración
a las investigaciones académicas actuales (Ocaña et. al, 2019).
En cuanto a la regulación y políticas públicas asociadas a la IA, diversos
organismos internacionales como la ONU, la UE y la OCDE, han publicado
una serie de recomendaciones, que destacan la responsabilidad del uso
de las tecnologías, su función dentro de la educación, la investigación y la
aplicación en los entornos sociales. Dichas orientaciones no son globales;
sus puntos clave pretenden unicar distintos países, pero sin integrar
totalidad de criterios, como los concernientes al acceso a la información, el
derecho a la privacidad, las implicaciones para el desarrollo sostenible, las
limitaciones fronterizas, lo que ha dicultado acuerdos comunes (Abdala
et. al, 2019).
En atención a lo anterior, se ha aludido a que la mejor manera de
afrontar el uso de la IA es acogerse a las políticas públicas y lineamientos
constitucionales en materia educativa propio de cada nación, que cuentan
con marcos jurídicos, normativos y regulatorios para el área educativa, de
donde se sugiere que sólo es necesario adecuar las políticas públicas a los
cambios introducidos por la IA. Ahora bien, adoptar esta posición implica
636
Luis Augusto Durand-Azcárate, Graciela Esther Reyes-Pastor, Susan Cristy Rodríguez-
Balcázar y Ena Cecilia Obando-Peralta
Políticas educativas en torno al uso de la inteligencia articial: Debates sobre su viabilidad ética
el riesgo de caer en una dimensión regulatoria extensible a otras políticas
públicas, estando ante el riesgo de la sociedad de control, de vigilancia,
con capacidad de imponer frenos a la actividad humana y de la ciencia,
no a manera de recomendaciones, sino desde un punto de vista ideológico
(Abdala et. al., 2019).
Desde el contexto latinoamericano, se han impulsado proyectos y planes
estratégicos para la IA, cuya nalidad es hacer de esta parte esencial del
futuro, reconociendo la necesidad de análisis y aplicabilidad al contexto
social y con miras al desarrollo sostenible. De este modo, se asume la IA es
algo más que un contenido pedagógico o un plan curricular. A diferencia de
esto, se concibe como una serie de herramientas que, mediante la aplicación
de algoritmos, puede facilitar la efectividad y precisión de la educación.
En línea general, el diseño de las políticas educativas ha de estar orientado
hacia la exibilización y apoyo docente en el aula de clase, la corrección
de actividades, el monitoreo de estudiantes, el reconocimiento fácil y la
descripción permanente de planes de estudios. Esta realidad no deja de estar
sujeta a cuestionamientos, a problemas éticos, a cuestionamientos sobre
la actividad humana y al desplazamiento de la enseñanza interpersonal y
dialógica a la formación propiciada por las tecnologías, a lo que se suman
los contextos asimétricos, la falta de recursos y de inversión en locaciones
periféricas, de donde se suscitan importantes dilemas éticos.
3. Dilemas éticos sobre el uso de la Inteligencia Articial
Pese a los aspectos beneciosos o la posibilidad intrínseca de consolidar
la ciudadanía global mediante el uso de la inteligencia articial, no dejan de
surgir problemáticas relacionadas a su implementación, alcances y efectos
sobre la vida humana. De lo anterior se sigue el cuestionamiento sobre los
desplazamientos económicos, sociales y culturales sobre las poblaciones
marginadas, ajenos de los y avances tecnológicos y de sus impactos, que
no pueden integrarse a las dinámicas de la globalización y que sufren las
consecuencias tangibles del surgimiento de un nuevo mundo digitalizado y
gobernado por la IA (Ocaña et. al., 2019).
Desde un punto de vista general, la inteligencia articial tiene una serie
de dilemas éticos que afrontar, entre los que destacan, según González &
Martínez (2020), los siguientes:
• Invasión de entornos: siendo un tema de vulnerabilidades
irresuelto, en el que convergen ataques, ciberataques, errores
en los aprendizajes, fallas en los sistemas autónomos, en la toma
de decisiones, en la automatización de respuestas, en pérdida
del anonimato y del control sobre la IA, capacidad de generar
637
CUESTIONES POLÍTICAS
Vol. 41 Nº 79 (2023): 629-641
nuevos peligros tecnológicos, vulnerabilidades de tipo humano,
infraestructura y digital, empleo de software malicioso, entre otros.
• Invasión de la intimidad: la IA es capaz de detectar ciertas
vulnerabilidades en los dispositivos y aprovecharlas, además de
ser capaz de generar imágenes, textos y audios para recopilar
información, usurpar funciones humanas, generar phishing
automatizado y manejar las preferencias de los individuos en todos
los niveles.
• Pérdida de seguridad: compromete la seguridad digital, siendo
susceptible al ataque de ciberdelincuentes, capaces de manipular
la información; la seguridad física y la seguridad política, al
comprometer el uso de maquinaria teledirigida, elaborar planes de
ataque o planeación selectiva de determinados eventos.
Más allá de estas limitaciones, existen una serie de cuestionamientos
humanos, como los intereses comerciales y políticos de trasfondo, la
posibilidad de acceso al conocimiento, la información y el uso de la IA
destinado grupos minoritarios, vulnerables, desplazados o en países de
menor desarrollo. Como resultado de estas asimetrías, se podrían reforzar
los estereotipos, mermar las posibilidades de acceso a la educación,
generar percepciones negativas sobre la realidad y fortalecer la cultura de
la vigilancia estatal sobre los individuos (UNICEF, 2021).
La IA supone la revisión de conceptos éticos esenciales, como la sociedad
de control, de vigilancia, el consentimiento informado, el límite al acceso al
conocimiento, la privacidad, la transparencia y demás conceptualizaciones
que soportan el desenvolvimiento social. En conformidad con los estudios
realizados por el Fondo de las Naciones Unidas para la Infancia (UNICEF),
las comunidades desfavorecidas, periféricas o del llamado tercer mundo,
presentan desventajas a la hora de acceder a la sociedad digital. Las
tecnologías emergentes, como la IA, son ajenas a las realidades sociales,
lo que amplía el riesgo de acrecentar las brechas sociales, acentuar la
distribución inequitativa de los bienes tecnológicos, limitar el mundo
digital y cercenar el derecho a la calidad educativa, lo que distancia a
estas locaciones de construcción de un mundo acorde a la sostenibilidad y
sustentabilidad (UNICEF, 2021).
Las brechas sociales representan la exclusión a los servicios digitales,
desaprovechamiento de oportunidades, fala de consolidación de políticas
educativas, lo que genera repercusiones en el contexto social. La falta de
desarrollo tecnológico, así como la carencia de políticas educativas claras
con respecto al uso de la IA, conduce a las naciones latinoamericanas
a incertidumbre con respecto a la consolidación de la sociedad digital, a
diferencia de las grandes potencias globales, que gozan de los privilegios de
los avances de la IA.
638
Luis Augusto Durand-Azcárate, Graciela Esther Reyes-Pastor, Susan Cristy Rodríguez-
Balcázar y Ena Cecilia Obando-Peralta
Políticas educativas en torno al uso de la inteligencia articial: Debates sobre su viabilidad ética
Desde la perspectiva económica, las implicaciones éticas son vinculadas
al monopolio de los conglomerados empresariales, cuyo posicionamiento
en el mercado es prioritario, lo que también engloba la posibilidad de acceso
amplio a bases de datos generados por el mundo digital, permitiendo sacar
provecho ilícito de estas datas. En otras palabras, los algoritmos inteligentes
podrían conducir a aprendizajes autónomos sobre las operaciones y hábitos
comunes de los seres humanos, signicando una vulnerabilidad en la
privacidad de los individuos (Ocaña et. al., 2019).
Con el uso de la IA se aspira la generación de aproximadamente cuatro
billones de dólares americanos a partir del año 2022, proyectado en
ganancias para China y Estados Unidos, lo que representa un impacto de
más del 70% sobre la economía global. Empero, estas dinámicas utilizadas
en torno a la IA no son equitativas, carecen de un marco regulatorio jurídico
y moral, dado que las ganancias obtenidas por esta actividad, beneciarían
a un pequeño sector de la población, sin incidir a gran escala en la inversión
y promoción de las tecnologías (UNESCO, 2023).
Más allá de las máquinas, de la IA, son las corporaciones las encargadas
de recopilar datos de los consumidores, de medir y construir IA que sea
capaz de posicionar las empresas y adelantarse a los intereses humanos.
Desde una perspectiva ética, la regulación de la IA mediante políticas
públicas es fundamental, dado la gran data de información manejada, que
es procesada y utilizada para impulsar la sociedad de consumo, tendencias
políticas capitalistas, además de impulsar el crecimiento desmedido de la
globalización (Ocaña et. al., 2019).
En la perspectiva de la UNESCO (2023), la IA produce resultados
sesgados, no neutrales, donde se priorizan datos y resultados orientados
hacia los gustos de los internautas. Por lo tanto, la búsqueda web se
convierte en una serie de predicciones basadas en los estereotipos,
prejuicios e intereses de los consumidores. Adicional a esto, se presentan
problemáticas de género, presentes en los algoritmos de la IA, donde los
datos almacenados son utilizados para el aprendizaje y predictibilidad de
resultados.
Por esta razón, la IA genera un impacto dentro de las instancias sociales,
hecho que es trasladado hacia los escenarios educativos, donde se cuestiona
la eciencia y veracidad en el uso de estas tecnologías, sobre todo en lo
tocante a la falta de transparencia de las empresas encargadas de desarrollar
estas tecnologías, en la aplicación de procesos de vigilancia y en la falta de
equidad concerniente a la materia.
639
CUESTIONES POLÍTICAS
Vol. 41 Nº 79 (2023): 629-641
Conclusión
Pese a la voluntad política de erigir una política pública común para
la unicación de criterios en torno al uso de la IA, los diversos dilemas
éticos suscitados hacen que su aplicación se mucho más complejo de lo
pensado. En la actualidad, si bien no se tiene un marco regulatorio global,
las orientaciones de la IA son múltiples y objeto de estudio de diversas
disciplinas cientícas, haciendo de su aplicación tan indispensable como el
de otra serie de tecnologías para la sociedad, en especial para la educación.
La presente investigación ha presentado tres aspectos esenciales para
la comprensión de la IA: su conceptualización teórica, el problema de las
políticas educativas y los dilemas éticos suscitados. Con ello no se pretende
sentar precedentes o aspectos denitorios, sino sumarse a la discusión,
de donde se asume la necesidad de revisión ética, en especial a lo tocante
a la privacidad, la protección de los derechos personales y el uso de las
tecnologías en la educación.
Pese a que pocos asuman la IA como un asunto de políticas públicas, la
misma es tecnología al servicio de la humanidad de la colectividad; es una
herramienta para las mejoras de la salud, la educación, la defensa, por lo que
implementar políticas adecuadas, en este caso políticas educativas acordes
a las demandas de la sociedad digital, es fundamental para fortalecer la
educación y proyectar cambios en la sociedad. Logrado esto, es posible
avanzar hacia un futuro sostenido y sostenible, donde encuentren cabida
las naciones periféricas, minimizando así las asimetrías sociales.
Referencia Bibliográca
ABDALA, María; LACROIX, Santiago; SOUBIE, Santiago. 2019. “La política de
la Inteligencia Articial: sus usos en el sector público y sus implicancias
regulatorias” En: CIPPEC, Documento de Trabajo Núm. 185. Disponible
en línea: https://www.cippec.org/wp-content/uploads/2019/10/185-
DT-Abdala-Lacroix-y-Soubie-La-pol%C3%ADtica-de-la-Inteligencia-
Artici....pdf. Fecha de consulta: 01-04-2023.
ALONSO, Amparo. 2021. “Prologo”. En: AA.VV. Inteligencia Articial en
el campo de la Salud. Un nuevo paradigma: aspectos clínicos, éticos
y legales. Colección de Bioética y Derechos Sanitarios, Fundación
Merck Salud. Disponible en línea: https://www.fundacionmercksalud.
com/wp-content/uploads/2021/02/DIGITAL_MONOGRAFIA-26_
INTELIGENCIA-ARTIFICIAL_FINAL-1.pdf. Fecha de consulta: 13-04-
2023.
640
Luis Augusto Durand-Azcárate, Graciela Esther Reyes-Pastor, Susan Cristy Rodríguez-
Balcázar y Ena Cecilia Obando-Peralta
Políticas educativas en torno al uso de la inteligencia articial: Debates sobre su viabilidad ética
FONDO DE LAS NACIONES UNIDAS PARA LA INFANCIA. 2021. Orientación
de políticas sobre el uso de la inteligencia articial en favor de la infancia.
UNICEF, Nueva York. Disponible en línea: https://www.unicef.
org/globalinsight/media/2636/file/UNICEF-Global-Insight-policy-
guidance-AI-children-2.0-2021_ES.pdf. Fecha de consulta: 12-04-2023.
FURSYKOVA, Tetiana; CHYSTIAKOVA, Liudmyla; SHLIANCHAK, Svitlana;
KRAVCHENKO, Olena & KURIS, Yurii. 2023. “Inteligencia articial y
nuevas formas de gobierno en la era digital”. Cuestiones Políticas. Vol. 41,
No. 76. Disponible en línea: https://doi.org/10.46398/cuestpol.4176.31.
Fecha de consulta: 01-04-2023.
GONZÁLEZ, Mario; Martínez, Dagmaris. 2020. “Dilemas éticos en el escenario
de la inteligencia articial”. Economía y Sociedad. Vol. 25, No. 57.
Disponible en línea. https://dx.doi.org/10.15359/eys.25-57.5. Fecha de
consulta: 03-04-2023.
OCAÑA, Yolvi; VALENZUELA, Luis; GARRO-ABURTO, Luzmila. 2019.
“Inteligencia articial y sus implicaciones en la educación superior”.
Propósitos y Representaciones. Vol. 07, No. 02. Disponible en línea:
https://dx.doi.org/10.20511/pyr2019.v7n2.274. Fecha de consulta: 17-
04-2023.
ORGANIZACIÓN DE LAS NACIONES UNIDAS PARA LA EDUCACIÓN,
LA CIENCIA Y LA CULTURA. 2023. “Inteligencia articial: ejemplos
de dilemas éticos”. Disponible en línea: https://www.unesco.org/es/
articial-intelligence/recommendation-ethics/cases#ia-sesgada. Fecha
de consulta: 01-04-2023.
ORGANIZACIÓN DE LAS NACIONES UNIDAS PARA LA EDUCACIÓN,
LA CIENCIA Y LA CULTURA. 2019. “Consenso de Beijing sobre la
inteligencia articial y la educación”. Publicaciones de la UNESCO.
Disponible en línea: https://unesdoc.unesco.org/ark:/48223/
pf0000368303. Fecha de consulta: 04-04.2023.
ROUHIAINEN, Lasse. 2018. Inteligencia articial. 101 cosas que debes saber
hoy sobre nuestro futuro. Editorial Planeta. Barcelona, España.
TORRES, Gabriel; MUÑOZ, Aldemar; TERNERA, Yesith; OROZCO, Mario.
2023. “Colombia, Potencia Mundial para la Vida: El uso de la inteligencia
articial como herramienta de progreso” En: Revista de Filosofía. Vol. 40,
No. 104. Disponible en línea: https://doi.org/10.5281/zenodo.7644786.
Fecha de consulta: 16-04-2023.
VIDAL, Antoni. 2007. “Alan Turing y el nacimiento de la inteligencia articial”
En: Antena de Telecomunicaciones. No. 167. Disponible en línea: https://
641
CUESTIONES POLÍTICAS
Vol. 41 Nº 79 (2023): 629-641
www2.coitt.es/res/revistas/Antena167_08b_Articulo_Alan.pdf. Fecha
de consulta: 02-04-2023.
VIDOVIC, Jorge. 2021. “Inteligencia Articial: Un Futuro Inteligible” En:
Cuestiones Políticas. Vol. 39, No. 68. Disponible en línea: https://doi.
org/10.46398/cuestpol.3968.00. Fecha de consulta: 13-04-2023.
www.luz.edu.ve
www.serbi.luz.edu.ve
www.produccioncienticaluz.org
Esta revista fue editada en formato digital y publicada
en octubre de 2023, por el Fondo Editorial Serbiluz,
Universidad del Zulia. Maracaibo-Venezuela
Vol.41 Nº 79