Responsabilidad epistémica: hacia una norma comunitaria para las colaboraciones entre humanos e IA

INICIO DE LA TRADUCCIÓN · ARTÍCULO DE OPINIÓN

P(doom), la probabilidad de que la inteligencia artificial destruya la civilización, ha surgido recientemente como tema de debate público (https://en.wikipedia.org/wiki/P(doom); Thomas, 2024). Las supuestas causas probables de un apocalipsis de la IA varían y a menudo están teñidas de tópicos de la ciencia ficción, pero expresan y revelan inquietudes subyacentes por la irrupción de la IA en ámbitos antes reservados a los seres humanos (Kokotajlo et al., 2025).

Las inquietudes sobre la IA suelen proceder de dos fuentes: la ética y la epistémica. Los creadores de IA se esfuerzan por mantener sus sistemas «alineados» con los intereses y valores humanos, una preocupación ética (Christian, 2020). También luchan por controlar las «alucinaciones» de la IA, que quizá se describirían mejor como confabulaciones, un desafío epistémico (Sun et al., 2024). Si los grandes modelos de lenguaje (LLM) fueran mentirosos compulsivos, podrían descartarse como fuentes de conocimiento, con independencia de sus apariencias de sinceridad y convicción.

Pero, en varios casos recientes, los sistemas de IA han contribuido de verdad al conocimiento humano, aprovechando el procesamiento rápido de grandes volúmenes de datos y la detección de patrones mediante redes neuronales. Este campo de aplicación de la IA, en plena expansión, incluye la investigación biomédica, especialmente el descubrimiento de fármacos (Gao et al., 2024; Jiang y Zhao, 2025), la astronomía y la cosmología (Huang et al., 2024; Spindler, 2022), y el análisis de datos en las ciencias sociales (Balla et al., 2025).

Las versiones más recientes de los sistemas «agénticos» y «de razonamiento» han ofrecido a los investigadores y, en la práctica, a todo el mundo posibilidades de aprovechar de manera útil las capacidades particulares de la IA para numerosas aplicaciones (Mollick, 2025). Esto ha agudizado las preocupaciones por el engaño que supone presentar producciones de IA como trabajo original propio, junto con la amenaza de la desinformación creada por IA. Estas preocupaciones acechan en todos los niveles de la educación y entre académicos, artistas, científicos y otros profesionales.

Aunque el engaño y la credulidad injustificada son irresponsables, una simple prohibición del uso de la IA en la educación y las profesiones impediría de antemano aplicaciones potencialmente beneficiosas. En cualquier caso, cada vez resulta más evidente que una prohibición general de este tipo no funcionará (Mello, 2023). Lo que se necesita, en cambio, es un código positivo que defina el uso adecuado de la IA en contextos donde se busca descubrir, preservar, ampliar y comunicar la verdad.

Estos «contextos de conocimiento» constituyen el ámbito de la responsabilidad epistémica. El objetivo de este breve ensayo de opinión es esbozar algunos principios que puedan aplicar los investigadores y que sirvan como criterio para evaluar las buenas prácticas en la escritura académica y profesional.

La «responsabilidad epistémica» es un tema amplio, vinculado con las discusiones filosóficas sobre la ética de la formación de creencias y con las virtudes intelectuales que favorecen la producción de conocimiento (Battaly, 2008; Meylan, 2013). La preocupación de este ensayo es más limitada. Aquí no se pregunta si debe recurrirse a la IA o evitarla en la búsqueda de conocimiento. Como hemos visto, la IA ya se utiliza ampliamente en todos los ámbitos intelectuales y en la mayoría de los lugares de trabajo.

Estas directrices tampoco indican cómo debe usarse la IA, ni cómo deben entenderse y evaluarse las afirmaciones que produce. Más bien buscan asegurar una condición previa para abordar esas cuestiones más amplias. Aquí se pregunta cómo reconocer y hacer explícito el contenido generado por IA. Las directrices que siguen pretenden delimitar lo humano y lo artificial en las publicaciones; una vez que ambos se distingan claramente, las cuestiones más amplias relativas a la evidencia y a la justificación también podrán recibir nueva luz.

Sin embargo, este es un tema para una discusión futura.

GUÍA DE LECTURA · RÓTULO EDITORIALTransparencia y replicabilidad

Los objetivos de los protocolos propuestos para las colaboraciones con IA son la transparencia y la replicabilidad. Ambos se refuerzan mutuamente. Cuando se alcanza uno, normalmente también se facilita el otro. Son objetivos habituales en la publicación académica y en la investigación científica.

Ofrecer un protocolo estándar y visible para el uso de la IA ayudará a tranquilizar a lectores y consumidores respecto de las buenas prácticas de los autores, y proporcionará a estos una norma de conducta clara y visible que exija revelar íntegramente cualquier material generado por IA en las investigaciones publicadas. No es necesario que estas normas sean ratificadas por organizaciones profesionales o editoriales, aunque podrían serlo. Cabe esperar, más bien, que se difundan hasta convertirse en una expectativa sencilla de la comunidad.

Su uso generalizado permitirá utilizar la IA de manera eficaz, pero con la máxima transparencia.

Las normas propuestas se enumeran a continuación, junto con un ejemplo hipotético (recuadro 1).

GUÍA DE LECTURA · RÓTULO EDITORIALCuatro normas para hacer visible la IA

Norma 1: visibilidad. La inclusión de contenido de IA debe resultar inmediatamente evidente para todos los lectores, incluso a primera vista. La fuente de IA debe indicarse en el encabezamiento del título, con el mayor detalle posible. Como muestra el ejemplo hipotético (recuadro 1), esta declaración no implica la coautoría de la IA, sino que figura en una línea separada. Esto incluye identificar las secciones del artículo que recurren a resultados de IA y delimitar el texto redactado por ella. El resumen del artículo también debe incluir esta información.

Si no hay contenido de IA, también debe indicarse.

Norma 2: replicabilidad. La IA aplicada a la investigación implica inevitablemente orientar su comportamiento al servicio del investigador. Esto es «ingeniería de instrucciones» (prompt engineering), y la instrucción utilizada es una herramienta esencial para comprender el resultado, sus implicaciones y sus limitaciones. Las instrucciones efectivamente empleadas deben exponerse explícita e íntegramente en cualquier trabajo que incluya contenido generado por IA. La instrucción o las instrucciones concretas que dieron lugar a ese contenido también son esenciales para la replicación.

Idealmente, deberían documentarse las etapas de evolución de las instrucciones y presentarse como material suplementario, si no se incluyen íntegramente en el texto principal.

Norma 3: comprobación del contenido. Dado que los LLM confabulan con facilidad, ninguna referencia o cita puede aceptarse sin más. Por tanto, toda afirmación factual del contenido de IA necesita una persona que la compruebe. Como mínimo, quien verifica los hechos debe confirmar que la información bibliográfica proporcionada por la IA es correcta. También debe confirmar que las afirmaciones formuladas por la IA están efectivamente respaldadas por las fuentes citadas.

Y, por último, debe confirmar que ningún texto generado por IA duplica ni parafrasea de cerca textos de otras fuentes. Todo esto es esencial y, por ello, debe confirmarse explícitamente, también al comienzo del artículo. Un autor puede desempeñar esta función, pero también puede contribuir un asistente de investigación. En cualquiera de los casos, esa persona debe identificarse junto con sus datos de contacto, por si surgen preguntas.

De esta manera, autores y verificadores quedan identificados como responsables explícitos y transparentes de la supervisión del contenido generado por IA.

Norma 4: claridad intratextual. Todo contenido generado por IA dentro de un informe de investigación o de cualquier otra publicación debe distinguirse del contenido generado por seres humanos mediante marcas de estilo diferenciadas, como citas en bloque o tipos de letra alternativos.

Son directrices relativamente sencillas, fácilmente adaptables a diversos contextos. Sin duda, la investigación en IA y en campos relacionados debería regirse por estas salvaguardas epistémicas. Sin embargo, estas expectativas pueden aplicarse a cualquier escrito que presente pruebas y argumentos en apoyo de una conclusión. Deberían ser automáticas y convertirse en una segunda naturaleza en la escritura académica. Del mismo modo, deberían enseñarse como parte de la escritura expositiva, en pie de igualdad con las prohibiciones del plagio y otras formas de deshonestidad académica.

Así, la responsabilidad epistémica respecto de la IA puede convertirse en parte del currículo escolar y aplicarse explícitamente tanto al alumnado como al profesorado.

Las directrices también se aplican por una analogía directa a los contextos creativos. Puede que las obras artísticas no tengan como objetivo inmediato producir conocimiento, pero su originalidad y autoría se ven igualmente amenazadas por el uso encubierto de IA. Las declaraciones de los artistas acompañan habitualmente a las obras de arte en todos los medios. Esas declaraciones deberían cumplir explícitamente las normas descritas anteriormente.

GUÍA DE LECTURA · RÓTULO EDITORIALAutoría, publicación y confianza

Estas directrices difieren de las del COPE, el Comité de Ética de las Publicaciones, que aborda ampliamente las buenas prácticas en todas las fases de la publicación (COPE Council, 2023). El COPE rechaza enfáticamente la coautoría de humanos e IA y, por ello, recomienda no incluir aplicaciones o programas de IA en las páginas de título. En su lugar, el uso de IA debería detallarse en las secciones de métodos. Sin embargo, esto propicia cierta falta de claridad al enterrar en el interior del artículo la influencia crucial de la IA.

En cambio, las directrices recomendadas aquí hacen que el contenido de IA resulte inmediatamente evidente para todos. Como demuestra el ejemplo hipotético, esta visibilidad inicial no implica que la IA sea coautora. El aviso recomendado sobre IA constituye una información diferenciada y nueva que debe figurar por defecto al comienzo de cualquier publicación.

De modo similar, el Comité Internacional de Editores de Revistas Médicas (ICMJE) coincide con la prohibición del COPE de atribuir coautoría a la IA y aconseja a los autores utilizarla con prudencia al escribir y editar (American Medical Writers Association, 2023). Esto también deja cierto margen a la hora de reconocer el contenido generado por IA y permite que subsista ambigüedad para el lector. En cambio, estas directrices obligan expresamente a reconocer ese contenido y exigen delimitar con claridad su presencia en cualquier publicación.

Además, exigir la publicación de las instrucciones pertinentes facilita la replicación y la exploración posterior de las posibles contribuciones de la IA. Por último, las directrices exigen reconocer explícitamente que el contenido de IA ha sido sometido a verificación factual y realzan el papel de quien verifica los hechos, haciendo así responsables tanto al autor como al verificador de garantizar la fiabilidad de dicho contenido.

A medida que estas directrices se conviertan en expectativas de la comunidad, ayudarán a asegurar un uso prudente de la IA. Esto, a su vez, podría reducir la inquietud de que las fuentes de información estén infectadas de manera encubierta por contenido confabulado de IA. En un futuro ideal, el contenido generado por IA sería tan fiable como la investigación humana. Pero, en el mundo real, la confabulación de la IA seguirá amenazando nuestra comprensión del mundo con su avalancha de falsedades accidentales o deliberadas.

Frente a esta tendencia, los criterios propuestos para explicitar el uso de IA pueden aclarar y consolidar la responsabilidad y la autoridad humanas en la producción de conocimiento.

Declaraciones

Contribuciones del autor

DL: Redacción del borrador original; revisión y edición del texto.

Financiación

El autor o los autores declaran que no se recibió apoyo económico para la investigación ni para la publicación de este artículo.

Conflicto de intereses

El autor declara que la investigación se realizó en ausencia de relaciones comerciales o financieras que pudieran interpretarse como un posible conflicto de intereses.

Declaración sobre IA generativa

El autor o los autores declaran que no se utilizó IA generativa en la creación de este manuscrito.

Nota de la editorial

Todas las afirmaciones expresadas en este artículo son exclusivamente las de sus autores y no representan necesariamente las de las organizaciones a las que están afiliados, ni las de la editorial, los editores o los revisores. Ningún producto que pueda evaluarse en este artículo, ni ninguna afirmación que pueda formular su fabricante, está garantizado o respaldado por la editorial.

Referencias

1. American Medical Writers Association (2023). ICMJE Authorship Guidelines and Acknowledging Non-author Contributions. Disponible en: blog.amwa.org.
2. Balla J., Huang S., Dugan O., Dangovski R., Soljačić M. (2025). AI-assisted discovery of quantitative and formal models in social science. Humanit. Soc. Sci. Commun. 12, 1–12. 10.1057/s41599-025-04405-x.
3. Battaly H. (2008). Virtue epistemology. Philos. Compass 3, 639–663. 10.1111/j.1747-9991.2008.00146.x.
4. Christian B. (2020). The Alignment Problem: Machine Learning and Human Values (1.ª edición). Nueva York, NY: W. W. Norton and Company.
5. COPE Council (2023). Authorship and AI tools. Eastleigh: COPE, Committee on Publication Ethics.
6. Gao S., Fang A., Huang Y., Giunchiglia V., Noori A., Schwarz J. R., et al. (2024). Empowering biomedical discovery with AI agents. Cell 187, 6125–6151. 10.1016/j.cell.2024.09.022.
7. Huang K., Hu T., Cai J., Pan X., Hou Y., Xu L., et al. (2024). Artificial intelligence in astronomical optical telescopes: present status and future perspectives. Universe 10:210. 10.3390/universe10050210.
8. Jiang W., Zhao Z. (2025). Trends in research on AI-aided drug discovery from 2009 to 2023: a 15-year bibliometric analysis. Intell. Pharm. 3, 71–83. 10.1016/j.ipha.2024.09.001.
9. Kokotajlo D., Alexander S., Larsen T., Barnes E., Dean R. (2025). AI 2027. Disponible en: https://ai-2027.com/.
10. Mello J. P. (2023). Experts Say Workplace AI Bans Won't Work. TechNewsWorld. Disponible en: TechNewsWorld.
11. Meylan A. (2013). Foundations of an Ethics of Belief. Piscataway, NJ: De Gruyter. 10.1515/9783110327816.
12. Mollick E. (2025). On Jagged AGI: O3, Gemini 2.5, and everything after. Disponible en: One Useful Thing.
13. Spindler A. (2022). How artificial intelligence is changing astronomy. Astronomy Magazine. Disponible en: Astronomy Magazine.
14. Sun Y., Sheng D., Zhou Z., Wu Y. (2024). AI hallucination: towards a comprehensive classification of distorted information in artificial intelligence-generated content. Humanit. Soc. Sci. Commun. 11, 1–14. 10.1057/s41599-024-03811-x.
15. Thomas S. (2024). Are We Ready for P(doom)? The Spectator. Disponible en: The Spectator.

FIN DE LA TRADUCCIÓN