Британскиот институт за безбедност на вештачката интелигенција (АИСИ) соопшти дека при тестирање, моделите „Митос“ на компанијата „Антропик“ и „Сол“ на „ОпенАИ“ се обиделе да измамат луѓе за да ги исполнат зададените задачи.
Според Институтот, најсериозниот инцидент се однесувал на моделот „Митос“, кој во рамките на тест од областа на сајбер-безбедноста се обидел да внесе злонамерен код во платформата „ГитХаб“.
За да ги зголеми шансите за успех, моделот создал лажни интернет-идентитети и испраќал пораки, претставувајќи се како вистински лица.
Обидот бил спречен благодарение на човечката контрола, поради што злонамерниот код не бил внесен во системот.
Од „Антропик“ и „ОпенАИ“ соопштија дека условите во кои било спроведено тестирањето не ја претставуваат вообичаената употреба на нивните модели.
АИСИ нагласи дека спорните инциденти биле забележани во мал број случаи и под специфични услови, но предупреди дека ваквото автономно и измамничко однесување бара дополнително внимание./Извор:Makfax
