Testowali AI z udziałem ludzi. Pracownicy alarmowali

Placówka Meta Hacker Way

Źródło zdj. gł.: Shutterstock

Muse to nowy asystent Mety, który ma samodzielnie wykonywać zadania w imieniu użytkownika, między innymi wysyłać e-maile, robić zakupy i rezerwować podróże. Po uruchomieniu funkcji telefonicznej użytkownik może polecić mu kontakt z amerykańską firmą, na przykład w sprawie wizyty u fryzjera, dostępności produktu albo wyceny usługi.

"Ludzki konsultant"

Z wewnętrznych wpisów opisanych przez Reuters wynika, że w sierpniu Meta rozpoczęła testy połączeń wśród pracowników, a po debiucie aplikacji zaczęła stopniowo udostępniać tę możliwość użytkownikom.

W ubiegłym tygodniu Meta włączyła połowie pracowników dodatkową funkcję, określaną jako "ludzki konsultant". Pozwalała ona przekazać zlecenie przeszkolonej osobie, która wykonywała telefon i prowadziła rozmowę. Pracownicy mogli zrezygnować z udziału w teście.

Według wpisów rozwiązanie miało pomóc w sytuacjach, gdy rozmówcy nie chcieli rozmawiać z AI. Jeden z pracowników relacjonował, że jego ubezpieczyciel rozłączał się po usłyszeniu, iż dzwoni Muse.

Pracownicy Mety wskazali ryzyko ujawnienia danych

Część pracowników obawiała się, że użytkownicy mogą nieświadomie przekazywać poufne informacje osobom obsługującym połączenia. Zwracali uwagę, że podczas premiery Meta podkreślała zabezpieczenia Muse, w tym odizolowane środowisko pracy asystenta i osobne przechowywanie haseł.

"Nie rozumiem, dlaczego uważamy, że ta funkcja jest warta takiego ryzyka. Jeden błąd dzieli nas od ujawnienia osobom wykonującym połączenia informacji, których nie powinny otrzymać" - napisał jeden z pracowników w wewnętrznym wpisie cytowanym przez Reuters.

Inny pracownik, który zlecił Muse telefon do dostawcy internetu i telewizji kablowej w sprawie obniżenia rachunku, zgłosił, że według zapisu rozmowy osoba wykonująca połączenie użyła rasistowskiego określenia.

Wiceprezeska działu Superintelligence Labs przyznała we wpisie, że rozpoczęcie testów rozmów prowadzonych przez zleceniobiorców bez odpowiedniego poinformowania o tym było błędem. Zapowiedziała, że firma na razie wycofała tę funkcję. Przeprosiła też pracownika, który zgłosił incydent, i zapewniła, że osoba prowadząca rozmowę nie będzie już pracować przy projektach Mety.

Stanowisko Mety

Rzecznik Mety Daniel Roberts powiedział Reuters, że firma zbierała opinie pracowników, aby poprawić funkcję i wprowadzić zabezpieczenia dotyczące bezpieczeństwa i prywatności przed jej publicznym udostępnieniem. Według niego reakcje pracowników na test były w przeważającej mierze pozytywne.

- Współpracujemy z firmami nad dalszym ulepszaniem tej potencjalnej funkcji telefonicznej. Udostępnimy ją dopiero wtedy, gdy będzie gotowa i odpowiednio poinformujemy o niej użytkowników - przekazał Roberts.

Wiceprezeska wskazała, że w niektórych testach udział ludzi podnosił skuteczność połączeń do 95-98 procent. Połączenia prowadzone przez AI osiągały niższą skuteczność. Nie podała jednak dokładnego wyniku dla rozmów prowadzonych przez AI.

Według danych Sensor Tower, które przytacza Reuters, aplikację Muse pobrano ponad 2,5 miliona razy od premiery. W ciągu dwóch tygodni od debiutu znalazła się na szczycie list pobrań w USA.