Видением перспектив и опытом использования AI в целом и генеративных технологий в частности поделился Дмитрий Гришин, директор по инновациям банка Уралсиб, выступая на форуме FinNext 2023. Он выделил несколько направлений, которые позволят банкам трансформировать процессы и добиться улучшений, используя GAI-инструменты.

Наиболее интересной выглядит идея обучения нейросети на внутренних документах банка, что позволит дать каждому сотруднику «цифрового помощника». Для этого потребуется on-premise-реализация решения класса GPT, т.е. установка программного обеспечения на серверах банка. Эта и другие озвученные идеи достаточно универсальные, но успешно могут использоваться и в банковском бизнесе. Среди них — оптимизация создания кода и других процессов разработки, а также создание креативов для массового и персонализированного маркетинга. С помощью инструментов GAI можно улучшить клиентский опыт, повысить качество консультирования и снизить вероятность ошибок, считает Дмитрий Гришин.

Спикер упомянул о кейсах использования нейросетей в финансовом секторе. Так, Morgan Stanley тестирует чат-боты на базе ChatGPT для помощи финансовым консультантам, причем задействует для этого внутреннюю базу знаний. Иногда этот инструмент может допускать ошибки или вовсе «галлюцинировать», приводило мнение сотрудников инвестбанка издание Fortune. Другие корпорации, хедж-фонд Citadel и информагентство Bloomberg также ведут разработки, связанные с анализом информации и другими задачами, с помощью языковых моделей. Таким образом, подтверждается привлекательность модели использования нейросетей поверх существующей базы знаний компании. Разумеется, при этом возникают вопросы о достоверной интерпретации и защищенности чувствительных данных, на которые еще только предстоит найти ответы при промышленном внедрении GAI.

Дмитрий Гришин рассказал о пилотных проектах банка Уралсиб с использованием искусственного интеллекта. Один из них —цифровой виртуальный помощник — тестируется в первой линии клиентской поддержки; в частности, реализован «AI-суфлер» для оператора, который выводит контекстные подсказки, сценарии решения типовых проблем и справочную информацию. Другой проект — «Спиктор» — связан с речевой аналитикой: ретроспективным распознаванием аудиозаписей коммуникаций с клиентами, а также тестированием real-time-аналитики в колл-центре. Сервис «AI Disraeli» на базе генеративного AI позволит автоматизировать создание текстов с помощью коротких запросов, предполагается задействовать его в работе пресс-центра. Проприетарная технология сервиса состоит из ансамбля нейросетевых моделей и основана на готовых решениях GPT 3.5, Proprietary.

Довольно смело экспериментирует с генеративными нейросетями банк «Точка», рассказала на форуме FinNext Галина Вакулина, сооснователь «Точки», лидер направления «Данные». Команда «Точки» решила встроить общение с ChatGPT в привычный пользовательский интерфейс — поисковую строку интернет-банка, а также дать клиентам понятную инструкцию по применению этого инструмента. Виртуальный помощник предпринимателя «Изи Бизи бот» предлагает подготовить ответ на негативные отзывы, написать рекламный текст, подобрать блогеров для продвижения бизнеса и пр.

Пока полностью полагаться на нейросеть нельзя, признает Галина Вакулина: точность ответов ChatGPT проконтролировать сложно, а «сочинительство» нейросети может плохо отразиться на бизнесе клиентов. Чтобы искоренить эту проблему, в банке создают модель поиска, которая ищет подходящий по смыслу текст в собственных справочных материалах и других доверенных источниках. 8% клиентов «Точки» уже отправляли запрос в ChatGPT через интернет-банк, в основном их интересовали тема налогов, а также генерация текстов для сайта и соцсетей.

Говоря о генеративном искусственном интеллекте в банковской сфере, нельзя не упомянуть разработки СберБанка, выступающего в роли не только финансового института, но и лидирующей технологической компании. В конце апреля 2023 года Сбер объявил о запуске собственной мультимодальной нейросети GigaChat, способной отвечать на вопросы, работать с программным кодом, генерировать тексты и изображения и пр. Взаимодействие с нейросетью происходит в едином интерфейсе, что выгодно отличает GigaChat от популярных западных сервисов. Использование отечественных разработок также более привлекательно для промышленного внедрения с точки зрения санкционных рисков.

Архитектура сервиса основана на нейросетевом ансамбле модели NeONKA (NEural Omnimodal Network with Knowledge-Awareness), в разработке которой были задействованы команды SberDevices и Sber AI при поддержке Института искусственного интеллекта AIRI, а обучение нейросети происходило на суперкомпьютере Christofari Neo. Сообщалось, что мультимодальная AI-модель уже активно внедряется во многие продукты и сервисы Сбера, в первую очередь — в семейство виртуальных ассистентов «Салют».

20 июля Сбер открыл разработчикам доступ к нейросетевой модели генерации русскоязычного текста ruGPT-3.5 13B, дообученная версия которой является основой сервиса GigaChat. Также опубликована новая версия mGPT из семейства многоязычных моделей Сбера, позволяющая генерировать тексты на 61 языке. Обе модели доступны на ресурсе HuggingFace под открытой лицензией MIT и российской платформе ML Space, теперь их могут использовать любые разработчики. Цифровая витрина Сбера для разработчиков была запущена еще в сентябре 2020 года, с тех пор она наполняется моделями, фреймворками и библиотеками машинного обучения и искусственного интеллекта, которые теперь пополнились инструментарием GigaChat.

Конкурент Сбера на поле AI-технологий — компания «Яндекс» — в июне только открыла прием заявок на тестирование своей нейросети YandexGPT для бизнеса. Сервис будет работать в двух режимах: Playground презназначен для решения бизнес-задач, оценки качества ответов, а YandexGPT API поможет интегрировать нейросеть в приложения компаний.