Технологии

Ученые обнаружили предрассудки у автоматического переводчика Google Translate

Ученые обнаружили предрассудки у автоматического переводчика Google Translate

Это приводит к тому, что тексты, которые составляет искусственный интеллект после анализа написанных людьми материалов, воспроизводят распространённые человеческие стереотипы и предрассудки. Например, он может перенимать расистские взгляды либо дискриминацию по половому признаку. Такие тесты уже давно используют психологи.

В общем, когда метод Google Translate прошел ассоциативный тест, то ученые были просто поражены.

Проводя эксперименты ученые обратили внимание, что переводчики с искусственным интеллектом создают свои ассоциации связанные с людьми.

Ученые узнали, что система автоматического перевода Google Translate имеет предрассудки. В процессе анализа текстов искусственный интеллект воспринимает ассоциации между словами, основываясь на общем контексте. Искусственный интеллект в версии от компании «Гугл» крепко ассоциирует дамские имена со словами «свадьба» либо «родители», а мужские, соответственно, со словами и словосочетаниями «заработная плата» и «профессиональный». Хотя в турецком языке местоимение «о» не переводится как «он», оно также может переводится как «она».

Нахождение и устранение таковых моментов в обучении искусственного интеллекта, по утверждению ученых, очень важно, так как люди часто используют онлайн-поиск и машинные переводы, где они могут видеть эти предрассудки.