Vulnerability-Aware Artificial Intelligence (VAAF): A Care-Centered Conceptual Framework for Human-in-the-Loop Clinical AI in Radiology

Abstract

This working paper introduces the Vulnerability-Aware Artificial Intelligence Framework (VAAF), a conceptual approach for integrating artificial intelligence into healthcare while preserving relational and ethical dimensions of care. Rather than framing AI as an autonomous decision-maker, VAAF conceptualizes clinical AI as a mediating infrastructure designed to reduce cognitive and technical burdens on healthcare professionals, enabling greater attention to patient interpretation, communication, and support. Drawing on ethics of care and digital hermeneutics, the framework proposes a shift from opaque algorithmic systems toward transparent human-in-the-loop models. Using fetal magnetic resonance imaging as an illustrative clinical context, the paper explores how technological mediation shapes experiences of vulnerability and meaning-making within highly technical medical environments. The framework contributes to ongoing debates in digital health and medical humanities by positioning vulnerability as a central design principle for future clinical AI systems. Document type: Working paper (pre-peer review version) Este working paper presenta el Marco de Inteligencia Artificial Sensible a la Vulnerabilidad (Vulnerability-Aware Artificial Intelligence Framework, VAAF), un enfoque conceptual orientado a integrar la inteligencia artificial en la atención sanitaria preservando las dimensiones relacionales y éticas del cuidado. En lugar de concebir la IA como un agente autónomo de toma de decisiones, el modelo VAAF entiende la IA clínica como una infraestructura de mediación diseñada para reducir las cargas cognitivas y técnicas de los profesionales sanitarios, favoreciendo una mayor atención a la interpretación, la comunicación y el acompañamiento de las personas pacientes. Basado en la ética del cuidado y la hermenéutica digital, el marco propone una transición desde sistemas algorítmicos opacos hacia modelos transparentes con supervisión humana (human-in-the-loop). Utilizando la resonancia magnética fetal como contexto clínico ilustrativo, el trabajo explora cómo la mediación tecnológica configura las experiencias de vulnerabilidad y los procesos de construcción de significado en entornos médicos altamente tecnificados. El marco contribuye a los debates actuales en salud digital y humanidades médicas al situar la vulnerabilidad como un principio central de diseño para los futuros sistemas de inteligencia artificial clínica. Este documento corresponde a una versión preliminar (working paper) destinada a discusión académica y podrá evolucionar en futuras publicaciones revisadas por pares.

Ähnliche Arbeiten