13.08.2026 12:04
МИР СОЗДАН ДЛЯ ПРАВШЕЙ.
МИР СОЗДАН ДЛЯ ПРАВШЕЙ. А ДАННЫЕ? 🤔
Сегодня Международный день левшей. Казалось бы, при чём здесь ИИ? На самом деле связь есть 👇🏻
Представьте обычную кухню. Ножницы, открывалка, расположение ручек — большинством предметов удобнее пользоваться правой рукой
Никто не хотел усложнить жизнь левшам. Просто потребности большинства приняли за норму.
По тому же принципу возникает смещение данных при обучении ИИ.
КАК МОДЕЛЬ ВИДИТ МИР?
Точно не во всей его целостности. Модели доступны лишь те данные, на которых её обучают. Если некоторые объекты или ситуации попадаются чаще других, система может принять закономерность за правило.
Так исследователи проекта ConceptScope показали, что в визуальных датасетах встречаются скрытые связи между объектами, фоном и текстурами.
Например, если определённую птицу фотографируют преимущественно на воде, модель может связать её с водным фоном. Из-за смещения эта же птица будет хуже распознаваться в ином окружении.
Похожая ситуация возникает и с видео
Кажется, что ИИ считывает контекст по действию, но иногда ему достаточно увидеть лишь знакомый предмет: система может определить «приготовление еды» по ножу и разделочной доске.
В результате модель даёт правильный ответ, но опирается не на фактическое действие, а на подсказки из обучающих данных. Поэтому в непривычной ситуации, когда тех же предметов в кадре нет, точность её ответа может снизиться.
Можно предположить, что проблему перекоса решит простое увеличение объёма данных 👇🏻
🟣 Авторы исследования Data Matters Most сравнили модели, обученные на сотнях миллионов и миллиардах пар «изображение — текст»
🟣 И узнали, что при увеличении датасета с 400 миллионов до 2 миллиардов примеров некоторые гендерные и расовые смещения усилились.
Получается, что два миллиарда похожих примеров необязательно дают более полную картину мира. Иногда они просто два миллиарда раз повторяют один и тот же перекос.
А что думаете вы?
🔥 — идеального баланса не бывает
🤔 — мы найдём способ исправить это
Сегодня Международный день левшей. Казалось бы, при чём здесь ИИ? На самом деле связь есть 👇🏻
Представьте обычную кухню. Ножницы, открывалка, расположение ручек — большинством предметов удобнее пользоваться правой рукой
Никто не хотел усложнить жизнь левшам. Просто потребности большинства приняли за норму.
По тому же принципу возникает смещение данных при обучении ИИ.
КАК МОДЕЛЬ ВИДИТ МИР?
Точно не во всей его целостности. Модели доступны лишь те данные, на которых её обучают. Если некоторые объекты или ситуации попадаются чаще других, система может принять закономерность за правило.
Так исследователи проекта ConceptScope показали, что в визуальных датасетах встречаются скрытые связи между объектами, фоном и текстурами.
Например, если определённую птицу фотографируют преимущественно на воде, модель может связать её с водным фоном. Из-за смещения эта же птица будет хуже распознаваться в ином окружении.
Похожая ситуация возникает и с видео
Кажется, что ИИ считывает контекст по действию, но иногда ему достаточно увидеть лишь знакомый предмет: система может определить «приготовление еды» по ножу и разделочной доске.
В результате модель даёт правильный ответ, но опирается не на фактическое действие, а на подсказки из обучающих данных. Поэтому в непривычной ситуации, когда тех же предметов в кадре нет, точность её ответа может снизиться.
Можно предположить, что проблему перекоса решит простое увеличение объёма данных 👇🏻
🟣 Авторы исследования Data Matters Most сравнили модели, обученные на сотнях миллионов и миллиардах пар «изображение — текст»
🟣 И узнали, что при увеличении датасета с 400 миллионов до 2 миллиардов примеров некоторые гендерные и расовые смещения усилились.
Получается, что два миллиарда похожих примеров необязательно дают более полную картину мира. Иногда они просто два миллиарда раз повторяют один и тот же перекос.
А что думаете вы?
🔥 — идеального баланса не бывает
🤔 — мы найдём способ исправить это