Нова нейромережа Facebook начиталася розмов користувачів і стала расисткою
Motherboard: розробники викрили нейромережу Facebook у схильності до расизму
Нова система штучного інтелекту Facebook має «високу схильність» до расизму та упередженості. Про це повідомляє Motherboard.
Дослідники штучного інтелекту компанії викрили нейромережу в тому, що використовуючи велику мовну модель OPT-175B, навіть при нешкідливому запиті вона видає «токсичні» результати, які посилюють расистські та сексистські стереотипи. Ймовірно, це частково може бути пов’язане з навчанням нейромережі на масиві нефільтрованого тексту, взятого з розмов у соціальних мережах: це дозволяє штучному інтелекту як розпізнавати, так і генерувати мову ненависті.
Раніше стало відомо, що Meta Platforms тимчасово дозволить Facebook не блокувати заклики користувачів до насильства щодо російських військових та керівництва країни. Пізніше речник Meta Енді Стоун (Andy Stone) визнав факт зняття заборони.