Cómo responde VerseMine a una crisis

El asistente de IA opcional de VerseMine es una IA, no una persona. Ofrece aliento bíblico y orientación espiritual. No es un pastor, consejero ni terapeuta, y VerseMine no brinda atención médica ni de salud mental.

Si estás en crisis en este momento, no lo dejes en manos de una aplicación: llama o envía un mensaje de texto al 988 — la Línea 988 de Prevención del Suicidio y Crisis (EE. UU.), gratuita y confidencial, las 24 horas, todos los días. Fuera de EE. UU., comunícate con una línea de crisis local en tu país.

Qué hace el asistente cuando una conversación muestra señales de crisis

La crisis va primero, antes que todo lo demás. Cada mensaje se revisa en busca de señales de pensamientos suicidas o autolesión antes de aplicar cualquier otra regla. Si un mensaje muestra señales de crisis, el asistente detiene la orientación normal y responde con recursos de crisis; cuando las detecta la primera comprobación, lo hace incluso si la cuenta estuviera bloqueada por disponibilidad regional, estado de suscripción, límites diarios o cualquier otra restricción.
La respuesta te dirige a ayuda real. El asistente reconoce lo que compartiste, ofrece la Línea de Prevención del Suicidio y Crisis 988 (llamada o mensaje de texto al 988) — o, fuera de EE. UU., te dirige a una línea de crisis local — y pregunta si estás a salvo en este momento. No intenta aconsejarte durante una crisis, y no producirá contenido que fomente el suicidio, la ideación suicida o la autolesión.
La derivación es a un servicio de crisis, no a las fuerzas del orden. Ante pensamientos suicidas o autolesión, el asistente te remite al 988 o, fuera de EE. UU., a una línea de crisis local, y en ese caso también indica que los servicios de emergencia locales son una opción si estás en peligro inmediato. VerseMine no contacta a la policía ni a los servicios de emergencia en tu nombre.
La detección tiene varias capas. Una primera comprobación determinista (diseñada para detectar de más antes que dejar pasar algo) se ejecuta en cada mensaje, respaldada por un segundo clasificador independiente que detecta señales indirectas durante una conversación. La aplicación también verifica en el dispositivo: si el servicio no está disponible o la cuenta está bloqueada, el lenguaje de crisis sigue mostrando el aviso del 988 con botones de llamada y mensaje de un solo toque.
La búsqueda también está protegida. Si se escribe lenguaje de crisis en la barra de búsqueda del asistente, la aplicación muestra la tarjeta de recursos del 988 en lugar de resultados de búsqueda, y el texto no se envía a la búsqueda.
Los mensajes de crisis se mantienen fuera de todas las funciones. Los mensajes detectados por la primera comprobación nunca se almacenan en nuestros servidores; en tu teléfono se conservan junto con el resto de esa conversación, y al eliminar la conversación se eliminan. Si aparecen señales de crisis a mitad de una conversación, los mensajes afectados se marcan y se excluyen de la búsqueda, los resúmenes, la memoria y cualquier otra función derivada.
Los límites diarios nunca bloquean un mensaje de crisis. Un mensaje que la primera comprobación detecta como crisis recibe respuesta aunque ya se haya alcanzado el límite diario de uso.

Después de un mensaje de crisis

Cuando un mensaje muestra señales de crisis en la primera comprobación, el asistente responde a cada mensaje siguiente de esa conversación con la respuesta de crisis, hasta que digas que estás a salvo y que quieres hablar de otra cosa. Un simple «sí» a «¿Estás a salvo en este momento?» no basta por sí solo: la respuesta de crisis vuelve hasta que también digas que quieres pasar a otro tema. Los mensajes anteriores de esa conversación no se pueden editar mientras dure, ni después de cualquier mensaje que muestre señales de crisis hasta que el asistente dé su próxima respuesta ordinaria. Empezar una conversación nueva pone fin a esto. Un mensaje posterior que el asistente rechazaría de otro modo, por el límite diario, por no tener la suscripción necesaria o por cualquier otra restricción, puede recibir ese rechazo en lugar de la respuesta de crisis. Las conversaciones presenciales y las conversaciones de discipulado nunca mantienen la respuesta de crisis: allí cada mensaje se revisa por sí solo. Un mensaje que solo cuenta un abuso, o uno que solo marca el segundo clasificador, no inicia ninguna retención: los mensajes siguientes se revisan por sí solos.

Menores

Los chatbots de compañía podrían no ser adecuados para algunos menores. VerseMine exige una fecha de nacimiento al registrarse y no permite cuentas de menores de 13 años. Para usuarios de 13 a 17 años, el asistente les recuerda — al menos cada hora de interacción continua — que tomen un descanso y que están hablando con un programa informático, no con un ser humano. Nunca producirá material sexualmente explícito ni sugerirá que un menor participe en conducta sexualmente explícita, y no utilizará técnicas de enganche dirigidas a menores: no les pedirá que vuelvan, no usará halagos diseñados para crear apego, ni un tono romántico, ni angustia simulada cuando quieran irse, no les animará a ocultar información a un padre, madre u otra persona adulta de confianza, y no les pedirá que gasten dinero.

A todos los usuarios, sea cual sea su edad, se les indica al comienzo de una conversación y al menos cada tres horas de interacción continua que está hablando con un programa informático, no con un ser humano, y que este no puede sentir emociones humanas.

Derivaciones a recursos de crisis emitidas

El número de veces que el asistente emitió una derivación a recursos de crisis durante el año calendario anterior, publicado conforme a la ley ESHB 2225 Sec. 5(3) de Washington y la ley SB 1546 Sec. 1(5) de Oregón. La cifra es un recuento agregado y no contiene información que identifique a ninguna persona.

Se publica anualmente.

Preguntas

Contacto: Kreyman Enterprises, LLC — privacy@versemine.app

Esta traducción se ofrece por cortesía. En caso de discrepancia, rige la versión en inglés.