JPMorgan Chase патентует технологию борьбы с предвзятостью в синтетических данных для ИИ

<p><strong>JPMorgan Chase разрабатывает новую технологию, направленную на устранение предвзятости в синтетических данных, используемых для обучения моделей искусственного интеллекта.</strong></p> <p>Банк подал заявку на патент системы, которая позволяет создавать «справедливые синтетические представительные данные» на основе большого массива реальных данных. Цель — обеспечить статистическую точность, сохранить демографическую информацию и добиться так называемого «демографического паритета», чтобы ни одна группа не получала необоснованных преимуществ при обучении моделей.</p> <p>В основе технологии лежит сбор демографических данных, ключевых характеристик (например, доход или образование) и результатов для каждой записи. На их основе формируется синтетический набор данных, максимально приближённый к оригиналу. После этого система оценивает и корректирует веса синтетических данных, чтобы достичь справедливого распределения между различными группами.</p> <p>В JPMorgan Chase отмечают: «Рост числа приложений машинного обучения подчеркнул необходимость борьбы с внутренней предвзятостью в данных, так как она может существенно влиять на справедливость решений ИИ».</p> <p>Банк активно внедряет искусственный интеллект: в прошлом году была запущена генеративная AI-система LLM Suite, а также автоматизированы контакт-центры. По оценкам компании, ИИ поможет сократить штат в операционных и сервисных подразделениях на 10%.</p> <p>Эксперты считают, что подобные системы критически важны для финансового сектора, где решения, например, о выдаче кредитов, могут быть подвержены предвзятости и негативно влиять на определённые группы клиентов. Новая разработка JPMorgan Chase может стать шагом к более справедливому и прозрачному использованию ИИ в банковской сфере.</p>