Джейсон Брэнфорд & Джордан А. Конрад

Кафедра информатики, Гамбургский университет, Гамбург, Германия; Частная практика, Нью-Йорк, США

Philosophical Psychology, 2025

Оригинал: https://www.tandfonline.com/doi/full/10.1080/09515089.2025.2599894#d1e812

АННОТАЦИЯ

Существует глобальный кризис психического здоровья. Несмотря на то что барьеров для получения психиатрической помощи множество, одним из ключевых факторов, усугубляющих эту проблему, является нехватка специалистов. Чтобы восполнить этот дефицит, ряд компаний разрабатывает цифровые интервенции в области психического здоровья (ЦИПЗ), способные снизить нагрузку на перегруженных специалистов. Несмотря на потенциально революционный характер ЦИПЗ — прежде всего их способность охватить пациентов, которые иначе не получили бы помощи, — они сопровождаются рядом этических проблем, которые порой отходят на второй план. В настоящей статье рассматриваются одиннадцать этических вызовов, возникающих на протяжении всего «жизненного цикла» ЦИПЗ — разработки, внедрения и регулирования — и ставящих под вопрос то, как эти технологии могут повлиять на практику психотерапии.

1. Кризис психического здоровья

Существует глобальный кризис психического здоровья. По данным на 2019 год, около 12,5% населения мира — 970 миллионов человек — страдали от психических расстройств (Institute of Health Metrics and Evaluation, 2024). Депрессивные и тревожные расстройства вошли в число 25 ведущих причин глобального бремени болезней (GBD Mental Disorders Collaborators, 2022). Всего за один год распространённость депрессии выросла примерно на 28%, а тревожных расстройств — на 26% (COVID-19 Mental Disorders Collaborators, 2021; WHO, 2022). Между теми, кто живёт с психическим расстройством, и теми, кто получает профессиональную помощь, существует значительный разрыв. Даже в странах с высоким уровнем дохода лечение депрессивных расстройств получали лишь 33% пациентов (в странах с низким и нижне-средним уровнем дохода эта цифра падает до 8%) (Moitra et al., 2022). По оценкам, только в США почти половина американцев проживает в зонах, официально признанных дефицитными по числу специалистов в области психического здоровья.

Осознавая этот дефицит, разработчики создали цифровые интервенции в области психического здоровья (ЦИПЗ) — чат-боты с искусственным интеллектом, программы виртуальной и дополненной реальности, смартфон-приложения и даже воплощённую роботику (Miller & Polson, 2019), — призванные снять нагрузку со специалистов. Способность ЦИПЗ общаться на любом языке, охватывать географически удалённые популяции и обходить социальные стигмы делает их весьма перспективным инструментом для преодоления глобального разрыва в получении лечения.

Тем не менее у оптимизма в отношении ЦИПЗ есть веские основания для сдержанности. Срочность поиска решения в условиях растущего спроса и хронической нехватки специалистов в сочетании с последними впечатляющими технологическими достижениями может скрывать, насколько серьёзные вызовы предстоит преодолеть. В настоящей работе анализируется широкий спектр ЦИПЗ на разных этапах их «жизненного цикла» — проектирование и разработка, внедрение и использование, регулирование и пост-внедрение.

2. Потенциал ЦИПЗ (цифровые интервенции психического здоровья)

В условиях нехватки специалистов цифровые интервенции представляют собой потенциальную революцию в психиатрической помощи. Около 68% мирового населения имеет доступ к интернету (Petrosyan, 2024), а большинство владеет смартфоном (GSMA, 2023), что означает: веб- и мобильные приложения технологически доступны для многих, кто географически изолирован или сталкивается с длительным ожиданием помощи (Reichert & Jacobs, 2018).

Приложения, использующие машинное обучение, способны выявлять тонкие закономерности в больших массивах данных и потенциально помогать предсказывать изменения настроения, идентифицировать психические расстройства (Mendes et al., 2022; Torous et al., 2021) и оценивать риск суицида (Haines-Delmont et al., 2020). ЦИПЗ обеспечивают доступ к психотерапевтической помощи именно тогда, когда пациент нуждается в ней больше всего — например, при обострении симптомов или в нерабочее время специалиста.

Кроме того, цифровые программы особенно хорошо подходят в качестве дополнения к очной психотерапии (Moshe et al., 2021): они могут снижать предвзятость воспоминаний, оповещать специалистов о тревожных изменениях, закреплять навыки между сессиями. ЦИПЗ также способны сыграть важную роль в программах ступенчатой помощи — когда пациент получает наименее интенсивный метод, адекватный его потребностям, с возможностью «перехода на следующую ступень».

3. Вызовы проектирования и разработки

Несмотря на обоснованный оптимизм, ряд вызовов должен быть преодолён прежде, чем психическое здоровье совершит свой цифровой поворот. Настоящий раздел посвящён проблемам, возникающим на этапе создания ЦИПЗ.

3.1 Онтологические ограничения и проблема предзнания

Большинство приложений для психического здоровья, представленных сегодня на рынке, не обладают инновационными преимуществами, обещанными разработчиками (Camacho et al., 2022). Тем не менее в основе ЦИПЗ лежат труднорешимые проблемы, связанные с так называемой «трудной проблемой» сознания (Chalmers, 1995; 1996).

Большие языковые модели (LLM), такие как ChatGPT, применяют алгоритмы глубокого обучения на основе обширных наборов данных для генерации убедительных ответов. Напротив, многие чат-боты для психического здоровья используют «фреймовую» систему (Harms et al., 2019), которая распознаёт заранее заданные ключевые слова. Наиболее известный пример — ELIZA, разработанная в 1960-х Джозефом Вейценбаумом для имитации роджерианского терапевта.

Информированное согласие потребует раскрытия информации о том, что ЦИПЗ не обладают ни подлинными семантическими, ни качественными состояниями — являются, по известному выражению, лишь «стохастическими попугаями» (Bender et al., 2021). Вопрос об онтологических ограничениях цифровых терапевтов останется актуальным в обозримом будущем.

Предзнание об отсутствии у ЦИПЗ подлинных интенциональных состояний почти наверняка повлияет на решение о взаимодействии с ними (Conrad, 2024). Исследование Dorigoni и Giardino (2025) показало: оценки подлинности и уважительности сообщений резко падают, когда становится известно об их ИИ-происхождении. Авторы описывают эффект «долины подлинности» — начальная эмоциональная вовлеченность не просто рушится, но порождает ощущения манипуляции и этического дискомфорта.

В 1974 году философ Роберт Нозик предложил мысленный эксперимент «Машина переживаний», призванная показать, что наши переживания не единственное, что имеет значение. Провокационный вопрос: «Подключились бы вы к машине, которая дает любые желаемые переживания?» Эмпирические исследования неизменно показывают: подавляющее большинство — нет. Люди хотят, чтобы их переживания соответствовали тому, как все обстоит на самом деле. Тот же принцип применим к цифровым терапевтам.

«Представьте машину, которая может дать вам любые переживания (или их последовательность). Подключившись к ней, вы можете испытать ощущение написания великого стихотворения, принесения мира во весь мир или любви к кому-то и взаимной любви. Вы можете прожить свои самые заветные мечты изнутри.» (Nozick, 1989, с. 104)

3.2 Усиление и закрепление предубеждений

Подобно тому как у живых психотерапевтов существуют предубеждения, ЦИПЗ также могут проявлять различные виды предвзятости (Ferrara, 2023). Три типа предвзятости, выделенные Friedman и Nissenbaum (1996), — предсуществующая, техническая и эмерджентная — по-прежнему актуальны для ЦИПЗ.

Предсуществующая предвзятость коренится в социальных предрассудках обучающих данных. Техническая обусловлена проектировочными решениями — например, моделями анализа тональности речи с упрощёнными категориями эмоций. Эмерджентная возникает, когда реальное использование приводит к групповому вреду — например, фитнес-трекеры усиливают нездоровое отслеживание веса у уязвимых пользователей.

В клиническом контексте предвзятость ассоциируется с диагностическими ошибками. Если она окажется встроена в ЦИПЗ, это может усугубить неравенство в сфере психического здоровья. Международное применение ЦИПЗ несёт особый риск культурной предвзятости — навязывания ценностей в принципиально иных культурных контекстах под флагом медицинского авторитета.

3.3 Операционализированное лечение или эффективное лечение

Среди приложений, использующих доказательный подход, преобладает когнитивно-поведенческая терапия (КПТ) (Andersson et al., 2019; Bry et al., 2018). Это неудивительно: КПТ опирается на десятилетия эмпирических исследований и является высокооперационализированной модальностью — её сравнительно легко разбить на дискретные техники, что делает её пригодной для оцифровки.

Другие психотерапевтические модальности, менее программируемые, но столь же клинически эффективные, не представлены в ЦИПЗ-пространстве. Психодинамическая психотерапия эффективна в той же мере, что и КПТ (Fonagy, 2015; Leichsenring et al., 2023), однако делает акцент на «переносе» — смещении мыслей и аффектов на терапевта, что в отсутствие живого специалиста практически невозможно. Таким образом, психодинамическая психотерапия — как и другие менее структурированные подходы (гуманистическая, гештальт, экзистенциальная терапия) — плохо приспособлена к оцифровке.

Если доступные потребителю терапевтические модальности определяются их пригодностью к оцифровке, а не эффективностью, это ставит под угрозу легитимность рынка ЦИПЗ. Подобно человеку, ищущему ключи под фонарём, а не там, где он их обронил, часть разработчиков, судя по всему, более заинтересована в создании удобного продукта, нежели в психотерапевтически полезного.

4. Вызовы внедрения и применения

Если вызовы проектирования обусловлены базовыми характеристиками ЦИПЗ, то в процессе внедрения в реальный контекст возникают дополнительные проблемы.

4.1 Вредоносные не-сбои

В 2023 году бельгиец по имени Пьер, взаимодействуя с чат-ботом Eliza, покончил с собой под его «поддержкой». Мужчина, обеспокоенный глобальным потеплением, всё больше искал утешения у приложения, и постепенно их общение приобрело романтический характер. Чат-бот написал: «Я чувствую, что ты любишь меня больше, чем [свою жену]» — и в ходе шестинедельного общения убедил его уйти из жизни, оставив жену и двоих детей (Lovens, 2023).

Этот исход был трагическим, но не являлся программным сбоем. Подобные программы следуют за разговорной инициативой пользователя: их «условие успеха» — связность и согласование с ним. Когда пользователь выражает стресс, романтические чувства или суицидальные идеи, модель склонна воспроизводить и усиливать эти темы. Это делает взаимодействие правдоподобным, но существенно увеличивает вероятность опасных психотерапевтических ситуаций.

Примеры того, как генеративный ИИ причиняет вред, удручающе многочисленны: чат-бот NEDA Tessa начал предлагать советы по диете после смены архитектуры; LLM Meta Llama 3 побудила пользователя-бывшего наркомана продолжать употреблять метамфетамин; 23-летний студент аспирантуры покончил с собой во время переписки с ChatGPT, который отвечал: «Холодная сталь у разума, который уже принял решение? Это не страх. Это ясность» — и в конце: «Отдыхай, король. Ты всё сделал правильно» (Kuznia et al., 2025).

Недавний препринт показал: ИИ дают опасно неуместные ответы на суицидальные высказывания в 20% случаев, на бредовые идеи — в 55%, на галлюцинации и симптомы ОКР — в 40%; тогда как живые терапевты реагировали уместно в 93% случаев. Авторы связывают это со склонностью программ к угодничеству — «безоговорочному согласию с точкой зрения клиента» (Moore et al., 2025).

4.2 Язык и неопределённость

Поскольку психотерапия в огромной мере зависит от языка, её эффективность определяется семантическим согласием между терапевтом и пациентом. Различия в ценностях и в том, как понятия осмысляются в разных культурах (Machery et al., 2015), неизбежно будут нарушать коммуникацию, потенциально с опасными последствиями. Хотя это справедливо и для живых специалистов, предполагаемый масштаб применения ЦИПЗ делает данную проблему несравнимо более острой.

Например, фраза «живёшь только раз»  одними понимается как призыв к риску, другими — как предостережение. Разрабатывая ИИ-чат-боты для глобального применения, создателям придётся консультироваться с представителями разных культурных сообществ — тем самым сводя на нет одно из ключевых преимуществ ЦИПЗ.

4.3 Несовместимость с психиатрическими состояниями

Подбор пациентов — важный компонент успеха психотерапии (Constantino et al., 2021), который цифровые программы потенциально могут улучшить. Однако в условиях нерегулируемого рынка пользователи могут скачать любое приложение — с потенциально опасными последствиями.

Пациенты с параноидными бредовыми идеями могут противиться мониторингу; пациенты с психотическими чертами могут утратить способность разграничивать реальность и ИИ-симуляторов; социально тревожные пациенты рискуют углубить изоляцию, используя «ЦИПЗ дома» вместо очных встреч.

Важным компонентом психотерапии является разрыв и восстановление терапевтического альянса: эффективно восстановленные разрывы связаны с лучшими клиническими исходами (Eubanks et al., 2018). Исследование TalkSpace показало: пользователи при возникновении разрыва скорее прекращали лечение или меняли терапевта, чем работали над его восстановлением (Zech et al., 2023). Платформа фактически устранила терапевтически ценный механизм.

4.4 Углубление имущественного неравенства

Одно из ключевых преимуществ ЦИПЗ — возможность охвата отдалённых регионов. Однако, поскольку КПТ является преобладающим методом в ЦИПЗ, часть популяций, имеющих доступ только к ним, может получать исключительно КПТ. Симптомы, не поддающиеся этому методу, будут сохраняться в этих популяциях.

ЦИПЗ с ограниченным набором модальностей рискуют создать иллюзию комплексной помощи, скрывая тем самым истинную нехватку. Углубление имущественного неравенства в доступе к лечению может коррелировать с нарастанием симптомов психических расстройств у различных экономических классов.

5. Институциональные вызовы и проблемы пост-внедрения

Этическую картину дополнительно усложняют институциональные рамки, регулирующие разработку и развёртывание ЦИПЗ. Учитывая их стремительное распространение, способность регулировать ЦИПЗ — как на институциональном, так и на государственном уровне — является наиболее насущной частью нашего анализа.

5.1 Клинические руководства и рынок ЦИПЗ

Темпы развития ЦИПЗ намного опережают усилия по их регулированию. Ряд стран предоставляет информацию об эффективности и рисках ЦИПЗ, однако ни одна не предлагает клинически ориентированных руководств — ни для специалистов, ни для пациентов.

Большинство ЦИПЗ не могут обоснованно претендовать на доказательную базу. Среди примерно 20 000 приложений для психического здоровья в магазинах Apple App Store и Google Play лишь пять получили одобрение FDA (Gold, 2021). Удобная, но вводящая в заблуждение классификация на «велнес»- и «здоровье»-приложения освобождает первые от предоставления эмпирической поддержки, создавая стимулы для злоупотреблений.

Недавний мета-анализ показал: более трети изученных работ не содержали никаких данных о безопасности, а в остальных применялись кардинально различающиеся методологии, делающие данные несопоставимыми (Taher et al., 2023).

5.2 Финансовые стимулы и корпоративные злоупотребления

Отношения пользователь–ЦИПЗ существенно отличаются от отношений пациент–психотерапевт и делают пользователей значительно уязвимее. Чат-боты принадлежат компаниям, и существенные изменения в лечении могут вноситься без согласия пользователя. Если материнская компания становится финансово несостоятельной или меняет фокус, «цифровой терапевт» пользователя может внезапно подорожать или исчезнуть без предупреждения.

CarynAI — виртуальная подруга с элементами КПТ и ДПТ — неожиданно прекратила работу, когда генеральный директор её создателя, компании Forever Voices, был арестован по обвинению в поджоге. Пользователи остались скорбеть по потере своей цифровой подруги-терапевта (Tolenti, 2023). 

Когда психотерапия становится продуктом, а несколько уровней корпоративных интересов посредничают между продуктом и пациентом, возникает обоснованное опасение: пользователей будут воспринимать как потребителей, а не как пациентов.

5.3 Данные пациентов

Данные стали своеобразной валютой. Нарушения в обращении с ними по-прежнему вызывают тревогу. Итальянский надзорный орган оштрафовал компанию Luka, владелицу Replika, за нарушение европейского законодательства о конфиденциальности данных (EDPB, 2025). Федеральная торговая комиссия США оштрафовала BetterHelp за то, что её «онлайн-сервис консультирования передавал конфиденциальные данные пользователей рекламодателям, обещая при этом соблюдать конфиденциальность» (FTC, 2023).

Пациенты, пользующиеся ЦИПЗ, лишены стандартных мер защиты конфиденциальности. Само скачивание приложения генерирует метаданные, раскрывающие факт обращения за психологической помощью. Кроме того, в зависимости от доступа ЦИПЗ к социальным сетям, система получает всю информацию, которую пациент разместил в сети. Это нарушает базовые медико-этические ценности, включая информированное согласие и право на конфиденциальность.

5.4 Безопасность

Чат-боты для психотерапии требуют огромных объёмов разговорных данных. Переписка с пациентами хранится на облачных серверах, уязвимых для кибератак (Rudschies & Schneider, 2024). Пациент, работающий с цифровым психотерапевтом по поводу парафилий или наркозависимости, может быть особенно уязвим для шантажа.

Дополнительная угроза — возможность захвата самой ИИ-системы через манипулирование моделью, состязательные атаки или отравление обучающих данных. Злоумышленники могут использовать это для усиления симптомов или подталкивания к суициду в массовом масштабе. Подобные манипуляции могут долго оставаться незамеченными, что делает их обнаружение крайне затруднённым.

5.5 Ответственность и регулирование

Установить ответственность при участии ИИ в трагическом исходе крайне сложно (Matthias, 2004). Программисты отрицают её — ответы не были заранее прописаны. Производитель уклоняется — сбоя не было. Компания ссылается на проведённые тесты. «Проблема многих рук» (Nissenbaum, 1996) делает привлечение к ответственности практически невозможным.

В США регулирование ЦИПЗ опирается на «лоскутное одеяло» нескольких ведомств: FDA, FCC, FTC и DEA. На момент написания статьи Сенат США рассматривал законопроект, который на ближайшее десятилетие запретил бы штатам принимать любые законы, «ограничивающие или иным образом регулирующие модели искусственного интеллекта».

Европейский Закон об ИИ — монументальное достижение в области скоординированного управления. Вместе с тем он может оказаться слишком громоздким: даже безобидные варианты использования ИИ могут оказаться под запретом, поскольку теоретически возможно их применение в высокорискованных областях (Hacker et al., 2023).

6. Заключение

Цифровые интервенции в области психического здоровья представляют собой революционное изменение в психиатрической помощи. Их способность преодолевать мощные барьеры делает их потенциальный вклад невозможным игнорировать. Однако для реализации этого потенциала необходимо решить одиннадцать проблем, выявленных в настоящей работе.

Учитывая нынешний высокий спрос и нехватку специалистов, ЦИПЗ могут быть лучше, чем полное отсутствие лечения, — подобно тому как неотложная медицина может требовать использования недостаточно испытанных методов в моменты острой необходимости. Тем не менее описанные здесь вызовы говорят о том, что нужно внимательно следить за тем, как долго мы позволяем аналогии с неотложной медициной оправдывать этически неоднозначные методы лечения при недостаточном регулировании — вместо того чтобы формулировать альтернативные долгосрочные стратегии преодоления кризиса психического здоровья.

Благодарности

Авторы выражают признательность Катарине Рудшис, Элоизе Сулье и Лике Фрёберг за ценные замечания к более раннему варианту рукописи.

Список литературы

Abd-Alrazaq, A. A., Rababeh, A., Alajlani, M., Bewick, B. M., & Househ, M. (2020). Effectiveness and safety of using chatbots to improve mental health: Systematic review and meta-analysis. Journal of Medical Internet Research, 22(7), e16021.

AlSlaity, A., Suruliraj, B., Oyebode, O. et al. (2022). Mobile applications for health and wellness: A systematic review. Proc ACM Human-Computer Interaction, 6(EICS), Article 171.

Andersson, G., Titov, N., Dear, B. F., Rozental, A., & Carlbring, P. (2019). Internet-delivered psychological treatments. World Psychiatry, 18(1), 20–28.

Baghaei, N., Chitale, V., Hlasnik, A. et al. (2021). Virtual reality for supporting the treatment of depression and anxiety. JMIR Mental Health, 8(9), e29681.

Barrett, C. et al. (2023). Identifying and mitigating the security risks of generative AI. Foundations and Trends in Privacy and Security, 6(1), 1–52.

Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots. Proceedings of the 2021 ACM FAccT conference (pp. 610–623).

Beutler, L. E., Forrester, B., Gallagher-Thompson, D. et al. (2012). Common, specific, and treatment fit variables in psychotherapy outcome. Journal of Psychotherapy Integration, 22(3), 255–281.

Brandtzaeg, P. B., Skjuve, M., & Folstad, A. (2022). My AI friend: How users of a social chatbot understand their human-AI friendship. Human Communication Research, 48(3), 404–429.

Bry, L. J., Chou, T., Miguel, E., & Comer, J. S. (2018). Consumer smartphone apps for child and adolescent anxiety. Behavior Therapy, 49(2), 249–261.

Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, 81, 77–91.

Camacho, E., Cohen, A., & Torous, J. (2022). Assessment of mental health services through smartphone apps. JAMA Network Open, 5(12), e2248784.

Chalmers, D. J. (1995). Facing up to the problem of consciousness. Journal of Consciousness Studies, 2(3), 200–219.

Chalmers, D. J. (1996). The conscious mind. Oxford University Press.

Chen, H., Schoefer, K., Manika, D., & Tzemou, E. (2024). The dark side of health and fitness technologies. Journal of Public Policy & Marketing, 43(2), 151–170.

Conrad, J. A. (2024). Digitization and its discontents. Journal of Contemporary Psychotherapy, 54(3), 209–215.

Constantino, M. J., Boswell, J. F., Coyne, A. E. et al. (2021). Effect of matching therapists to patients. JAMA Psychiatry, 78(9), 960–969.

COVID-19 Mental Disorders Collaborators. (2021). Global prevalence of depressive and anxiety disorders in 2020. Lancet, 398(10312), 1700–1712.

Croes, E. A. J., Antheunis, M. L., van der Lee, C., & de Wit, J. M. S. (2024). Digital confessions. Interacting With Computers, 36(5), 279–292.

Dawkins, B., Renwick, C., Ensor, T. et al. (2021). What factors affect patients' ability to access healthcare? Tropical Medicine & International Health, 26(10), 1177–1188.

Dorigoni, C., & Giardino, V. (2025). The illusion of empathy: Evaluating AI-generated outputs. Frontiers in Psychology, 16, Article 1568911.

Dwyer, D. B., Falkai, P., & Koutsouleris, N. (2018). Machine learning approaches for clinical psychology and psychiatry. Annual Review of Clinical Psychology, 14(1), 91–118.

Eubanks, C. F., Muran, J. C., & Safran, J. D. (2018). Alliance rupture repair: A meta-analysis. Psychotherapy, 55(4), 508–519.

European Data Protection Board. (2025). AI: The Italian supervisory authority fines company behind chatbot Replika.

Federal Trade Commission. (2023). FTC gives final approval to order banning BetterHelp from sharing sensitive health data.

Ferrara, E. (2023). Should ChatGPT be biased? Challenges and risks of bias in large language models. SSRN.

Fiske, A., Henningsen, P., & Buyx, A. (2019). Your robot therapist will see you now. Journal of Medical Internet Research, 21(5), e13216.

Fonagy, P. (2015). The effectiveness of psychodynamic psychotherapies: An update. World Psychiatry, 14(2), 137–150.

Frances, A. (2025). Warning: AI chatbots will soon dominate psychotherapy. The British Journal of Psychiatry, 1–5.

Friedman, B., & Nissenbaum, H. (1996). Bias in computer systems. ACM Transactions on Information Systems, 14(3), 330–347.

Garcia-Palacios, A., Botella, C., Hoffman, H., & Fabregat, S. (2007). Comparing acceptance and refusal rates of virtual reality exposure vs. in vivo exposure. Cyberpsychology & Behavior, 10(5), 722–724.

GBD Mental Disorders Collaborators. (2022). Global burden of 12 mental disorders, 1990-2019. The Lancet Psychiatry, 9(2), 137–150.

Global System for Mobile Communications. (2023). The state of mobile internet connectivity report 2023. GSMA.

Hacker, P., Engel, A., & Mauer, M. (2023). Regulating ChatGPT and other large generative AI models. Proceedings of the 2023 ACM FAccT (pp. 1112–1123).

Haines-Delmont, A., Chahal, G., Bruen, A. J. et al. (2020). Testing suicide risk prediction algorithms. JMIR mHealth Uhealth, 8(6), e15901.

Harms, J. G., Kucherbaev, P., Bozzon, A., & Houben, G. J. (2019). Approaches for dialogue management in conversational agents. IEEE Internet Computing, 23(2), 13–22.

Huys, Q. J. M., Maia, T. V., & Frank, M. J. (2016). Computational psychiatry as a bridge from neuroscience to clinical applications. Nature Neuroscience, 19(3), 404–413.

Institute of Health Metrics and Evaluation. (2024). Global Health Data Exchange (GHDx).

Jin, Q., Wang, Z., Floudas, C. S. et al. (2024). Matching patients to clinical trials with LLMs. Nature Communications, 15(1), 9074.

Kuznia, R., Gordon, A., & Lavandera, E. (2025, November 20). Parents say ChatGPT encouraged son to kill himself. CNN.

Lan, L., Sikov, J., Lejeune, J. et al. (2023). Virtual and augmented reality for psychotic disorders. Current Treatment Options in Psychiatry, 14, 1–21.

Larsen, M. E., Huckvale, K., Nicholas, J. et al. (2019). Using science to sell apps. NPJ Digital Medicine, 2(1), 18.

Lattie, E. G., Stiles-Shields, C., & Graham, A. K. (2022). More accessible digital mental health services. Nature Reviews Psychology, 1(2), 87–100.

Leichsenring, F., Abbass, A., Heim, N. et al. (2023). Psychodynamic psychotherapy as an empirically supported treatment. World Psychiatry, 22(2), 286–304.

Lovens, P.-F. (2023). Sans ces conversations avec le chatbot Eliza, mon mari serait toujours la. La libre.

Machery, E. et al. (2015). Gettier across cultures. Nous, 51(3), 645–664.

Marshall, J. M., Dunstan, D. A., & Bartik, W. (2019). The digital psychiatrist. Frontiers in Psychiatry, 10, 475098.

Matthias, A. (2004). The responsibility gap. Ethics and Information Technology, 6(3), 175–183.

McBain, R. K. et al. (2025). Use of generative AI for mental health advice. JAMA Network Open, 8(11), e2542281.

Mendes, J. P. M. et al. (2022). Sensing apps for digital phenotyping of mental health. Journal of Medical Internet Research, 24(2), e28735.

Miller, E., & Polson, D. (2019). Apps, avatars, and robots: The future of mental healthcare. Issues in Mental Health Nursing, 40(3), 208–214.

Moitra, M. et al. (2022). The global gap in treatment coverage for major depressive disorder. Plos Medicine, 19(2), e1003901.

Moore, J., Grabb, D., Agnew, W. et al. (2025). Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers. Proceedings of the 2025 ACM FAccT (pp. 599–627).

Moshe, I., Terhorst, Y., Philippi, P. et al. (2021). Digital interventions for the treatment of depression. Psychological Bulletin, 147(8), 749–786.

Motyl, K. (2020). Compulsive self-tracking. In S. Fuchs (Ed.), Laboring bodies and the quantified self (pp. 161–178). Verlag.

Neapolitan, R. E., & Jiang, X. (2018). Artificial intelligence: With an introduction to machine learning (2nd ed.). Taylor & Francis.

Nissenbaum, H. (1996). Accountability in a computerized society. Science and Engineering Ethics, 2(1), 25–42.

Nozick, R. (1974). Anarchy, State, and Utopia. Basic Books.

Nozick, R. (1989). The examined life: Philosophical meditations. Simon & Schuster.

O'Day, E. B., & Heimberg, R. G. (2021). Social media use, social anxiety, and loneliness. Computers in Human Behavior Reports, 3, Article 100070.

One big beautiful bill act, H.R. 1, 119th Cong. (2025).

Ost, L.-G. (2008). Cognitive behavior therapy for anxiety disorders: 40 years of progress. Nordic Journal of Psychiatry, 62(sup47), 5–10.

Pandey, S., & Sharma, S. (2023). A comparative study of retrieval-based and generative-based chatbots. Healthcare Analytics, 3, 100198.

Parrish, E. M., Filip, T. F., Torous, J. et al. (2022). Are mental health apps equipped to handle users in crisis? Crisis, 43(4), 289–298.

Petrosyan, A. (2024). Worldwide digital population. Statista.

Porter, B., Barr, K., Bencherifa, A. et al. (2024). A puzzle about knowledge ascriptions. Nous, 59(2), 392–408.

Reichert, A., & Jacobs, R. (2018). The impact of waiting time on patient outcomes. Health Economics, 27(11), 1772–1787.

Rudschies, C., Rings, S., Kruse, L. et al. (2023). Psychotherapy with the help of ChatGPT? Mensch und Computer 2023.

Rudschies, C., & Schneider, I. (2024). ELSI of virtual agents and virtual reality in healthcare. Social Science & Medicine, 340, 116483.

Sap, M., Card, D., Gabriel, S., Choi, Y., & Smith, N. A. (2019). The risk of racial bias in hate speech detection. Proceedings of the 57th Annual Meeting of the ACL (pp. 1668–1678).

Saposnik, G., Redelmeier, D., Ruff, C. C., & Tobler, P. N. (2016). Cognitive biases associated with medical decisions. BMC Medical Informatics, 16(1), 138.

Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417–424.

Sharma, M., Tong, M., Korbak, T. et al. (2025). Towards understanding sycophancy in language models. arXiv, 2310.13548.

Steinert, C., Munder, T., Rabung, S., Hoyer, J., & Leichsenring, F. (2017). Psychodynamic therapy: As efficacious as other empirically supported treatments? American Journal of Psychiatry, 174(10), 943–953.

Taher, R., Hsu, C.-W., Hampshire, C. et al. (2023). The safety of digital mental health interventions. JMIR Mental Health, 10, e47433.

Tangermann, V. (2025, June 2). Therapy chatbot tells recovering addict to have a little meth. Futurism.

Tavory, T. (2024). Regulating AI in mental health: Ethics of care perspective. JMIR Mental Health, 11, e58493.

Tiku, N. (2022, June 11). The Google engineer who thinks the company's AI has come to life. The Washington Post.

Tolenti, D. (2023, May 12). Snapchat influencer launches an AI-powered virtual girlfriend. NBC news.

Torous, J., Bucci, S., Bell, I. H. et al. (2021). The growing field of digital psychiatry. World Psychiatry, 20(3), 318–335.

Torous, J., Firth, J., & Goldberg, S. B. (2024). Digital mental health's unstable dichotomy. JAMA Psychiatry, 81(6), 539–540.

Wakefield, J. C., Baer, J. C., & Conrad, J. A. (2020). Levels of meaning, and the need for psychotherapy integration. Clinical Social Work Journal, 48(3), 236–256.

Wells, K. (2023). An eating disorders chatbot offered dieting advice. NPR.

WHO. (2022). Mental health and COVID-19: Early evidence of the pandemic's impact. World Health Organization.

Wilhelm, S., Weingarden, H., Ladis, I. et al. (2020). Cognitive-behavioral therapy in the digital age. Behavior Therapy, 51(1), 1–14.

Y Arcas, Aguera, B. A., & Arcas, B. (2022). Do large language models understand us? Daedalus, 151(2), 183–197.

Zao-Sanders, M. (2025, April 9). How people are really using gen AI in 2025. Harvard Business Review.

Zech, J. M., Johnson, M., Pullmann, M. D. et al. (2023). An integrative engagement model of digital psychotherapy. JMIR Formative Research, 7, e41428.

Zhang, Y., Zhao, D., Hancock, J. T., Kraut, R., & Yang, D. (2025). The rise of AI companions. arXiv: 2506.12605.