4 principios para orientar la IA en el apoyo a la salud mental

Por: Dra. Megan Jones BellDirector clínico, Consumidor y Salud Mental

Los trastornos de salud mental son un problema urgente: una de cada dos personas en el mundo desarrollará un problema de salud mental en algún momento. Lamentablemente, muy pocas personas tienen acceso a una atención de salud mental de alta calidad. Como psicólogo, he visto que esta brecha entre la demanda y la oferta hace que las personas queden al margen con resultados devastadores. En Google, estamos comprometidos a hacer nuestra parte para apoyar la salud mental y reconocemos que la IA tiene el potencial de ayudar a abordar esta necesidad al ampliar el acceso a la educación, la evaluación y la intervención. Por ejemplo, los modelos de IA entrenados con datos de salud mental pueden generar recursos que ayuden con tareas como la capacitación de proveedores, la realización de diagnósticos y la implementación de intervenciones. Pero la IA solo puede ser útil si abordamos esta oportunidad (y desafío) de la manera correcta.

Para explorar ambos lados de esta ecuación, trabajé con otros investigadores para publicar » Las oportunidades y los riesgos de los modelos de lenguaje de gran tamaño en la salud mental «, un nuevo artículo en JMIR Mental Health . En nuestras discusiones, identificamos cuatro formas clave de pensar en la creación de una IA que pueda apoyar la salud mental de las personas en todo el mundo. Dadas las barreras para acceder a una atención de salud mental de alta calidad, vemos un potencial real para el papel de la IA a pesar de las limitaciones que existen incluso con la tecnología mejor entrenada en la actualidad. 

Centrarse en el desarrollo responsable

Los investigadores y desarrolladores deben diseñar y probar modelos de IA de manera ética y responsable. Por ejemplo, estos modelos solo deberían realizar tareas clínicas cuando puedan manejarlas al menos tan bien como los proveedores humanos. Para alcanzar ese umbral, los modelos de IA deben ajustarse a la salud mental. También es esencial probar los modelos para asegurarse de que sean confiables (funcionen de manera consistente) y válidos (funcionen de acuerdo con la práctica basada en evidencia). Por ejemplo, si la IA va a responder las preguntas de salud mental de las personas o apoyar a los terapeutas en la prestación de tratamientos, el modelo debe ser seguro, confiable y preciso.

Fomentar la equidad en la salud mental

Lamentablemente, existen desigualdades en cuanto a quién recibe determinados diagnósticos de salud mental, además de disparidades en cuanto a quién tiene acceso a distintos tipos de atención de salud mental. El estigma también puede obstaculizar la obtención de apoyo.

Es fundamental entrenar modelos que reflejen la diversidad de las personas que interactuarán con los modelos de IA en cuestión; de lo contrario, se corre el riesgo de producir modelos que funcionen de manera diferente con diferentes grupos de personas. También es importante utilizar marcos que puedan evaluar el desempeño generado por la IA para problemas relacionados con la equidad . Y cuando los investigadores y desarrolladores identifiquen problemas, deben comunicarlos claramente y reelaborar los modelos según sea necesario hasta que puedan garantizar un desempeño equitativo.

Proteger la privacidad y la seguridad

La privacidad y la seguridad son primordiales en la IA relacionada con la salud mental. Cualquier persona que interactúe con la IA por razones de salud mental debe primero proporcionar su consentimiento informado, lo que incluye comprender qué expectativas de privacidad puede tener razonablemente junto con los límites a esas expectativas. Dada la sensibilidad de la información personal sobre la salud mental, los desarrolladores de modelos de IA de salud mental deben diseñar esos modelos para cumplir con las leyes de protección de datos pertinentes en su región (por ejemplo, en los Estados Unidos, la Ley de Portabilidad y Responsabilidad del Seguro Médico [HIPAA]).

En lo que respecta a la salud mental, la seguridad también incluye derivar a las personas a proveedores humanos y a niveles de atención más elevados cuando los síntomas empeoran o cuando surge el riesgo de problemas graves de salud mental, como la autolesión. En última instancia, la confianza adecuada solo se obtiene cuando los modelos de IA mantienen privada la información de salud mental y cuando las personas están seguras.

Mantenga a la gente informada

Las personas deberían proporcionar supervisión y retroalimentación en cada etapa del desarrollo y la implementación de la IA para apoyar la salud mental.

La participación humana rigurosa y constante puede ayudar a que los modelos de IA para la salud mental sean más precisos y descubran respuestas potencialmente problemáticas. Por ejemplo, un modelo puede sugerir un texto para que lo utilice un profesional de la salud mental en sus notas clínicas, pero el profesional debe decidir si incluirlo o no.

En lo que respecta al uso responsable y la equidad, los investigadores y desarrolladores deben buscar activamente la opinión de personas que reflejen las diversas poblaciones a las que pretenden ayudar, entre ellas, aquellas que han vivido experiencias de problemas de salud mental y los médicos. A través de este tipo de colaboración, las personas pueden definir conjuntamente el papel que desempeña la IA en la atención de la salud mental, ayudar a identificar y corregir sesgos y garantizar que el contenido generado por IA sea inclusivo, culturalmente apropiado y preciso.

Sabemos que la tecnología tiene sus límites. Sin embargo, creo que, teniendo en cuenta estas salvaguardas, la IA puede contribuir a cerrar la brecha cada vez mayor que existe entre la necesidad de servicios de salud mental y la disponibilidad de información y proveedores de salud mental de calidad.