БЕСПРИСТРАСТНЫЙ AI

БЕСПРИСТРАСТНЫЙ AI

Искусственный интеллект тоже подвержен когнитивным искажениям. Если, например, в обучающей выборке женщины возвращали кредиты исправнее мужчин, то нейросетка может запомнить этот параметр и начать мужчин дискриминировать и реже выдавать им займы при прочих равных. Это и напрямую невыгодно банку – он недозарабатывает, и приводит к диким скандалам, если кто-то обнаружит.

Американский #стартапдня KOSA обещает корпорациям лечение проблемы. Их Умные Алгоритмы посмотрят на ваши модели, всё заметят, всё поправят, всё объяснят сотрудникам и руководству, и станут ваши алгоритмы тоже Умными.

Реально продукта у стартапа, видимо, ещё нет. В разделе успешных кейсов они приводят выглядящее серьезным для непрофессионала исследование об уточнении диагностики рака кожи (там афроамериканцев дискриминировали) и какой-то фантастически стыдный отчет о том, как они считали мужские и женские слова в публичных вакансиях. Дескать, слово “analyst” – мужское (моего знания английского не хватает, чтобы понять, почему), и женщины, когда видят его в описании, на такую вакансию не откликаются. А KOSA написал автозамену, чтобы делать тексты гендерно-нейтральными.