Искусственный интеллект не может заменить врача, а в некоторых случаях способен усугубить ситуацию, идя на поводу у пользователя. Об этом рассказал главный редактор аналитического издания Runet Владимир Зыков. Главная опасность, по его словам, в том, что человек быстро начинает воспринимать ответы нейросети как мнение специалиста, хотя перед ним все же не врач, пишет RT .
"Модель может хорошо поддерживать разговор, задавать вопросы, помогать разложить мысли по полочкам, но это ещё не означает, что она правильно оценивает психическое состояние человека", – пояснил эксперт.
Более тонкая проблема, отметил Зыков, заключается в том, что ИИ во многом следует за логикой самого пользователя. Если человек приходит с сильным подозрением, страхом или уже готовой версией происходящего и ищет ей подтверждение, модель рискует начать подкреплять эту версию.
"Получается своего рода эффект очень убедительного собеседника, который иногда недостаточно спорит с человеком там, где как раз стоило бы усомниться в исходной предпосылке", – предупредил аналитик.
Особенно осторожно к таким разговорам, подчеркнул Зыков, стоит относиться при тяжелой депрессии, мании, психозе, параноидальных идеях или вопросах назначения препаратов – ошибка здесь может иметь серьезные последствия.
"ИИ полезен как дополнительный инструмент, которому можно выговориться, сформулировать проблему, подготовиться к разговору со специалистом, получить общую информацию, – заключил он. – Но заменять им профессиональную помощь, особенно в сложных состояниях, точно не стоит".
