Midjourney, generator obrazów ze sztuczną inteligencją, przestał świadczyć bezpłatną usługę próbną z powodu nadużyć ze strony użytkowników, którzy stworzyli fałszywe zdjęcia Donalda Trumpa i papieża.
Dyrektor generalny firmy, David Holtz, ogłosił decyzję w serwisie Discord, stwierdzając, że pomimo wprowadzenia zabezpieczeń, nadużycia próbne pozostają poważnym problemem. Użytkownicy będą teraz musieli płacić co najmniej 10 USD miesięcznie za korzystanie z technologii.
Niewłaściwe wykorzystanie technologii sztucznej inteligencji Midjourney zwróciło niechcianą uwagę na firmę, budząc obawy dotyczące rozpowszechniania dezinformacji przez złych graczy. The Washington Post donosi, że Midjourney, wraz z OpenAI DALL-E i podobnymi generatorami, może zostać wykorzystany do tworzenia podróbek, które mogłyby oszukać opinię publiczną.
Decyzja Midjourney o zakończeniu bezpłatnych wersji próbnych jest ważnym krokiem w walce z nadużywaniem obrazów generowanych przez sztuczną inteligencję. Firma chce usprawnić moderację AI i obecnie opracowuje zasady pracy z siecią neuronową, które nakładają na użytkownika więcej ograniczeń. Jednak oprócz problemu podróbek i próśb istnieje również możliwość, że ludzie często wykorzystują istniejące obrazy jako punkty odniesienia do tworzenia nowych.
W rzeczywistości moderacja AI trwa już od dłuższego czasu. Na przykład OpenAI zabrania jakiegokolwiek przedstawiania bieżących wydarzeń politycznych, teorii spiskowych i polityki, a także nienawiści, seksualności i przemocy.
Moim zdaniem nie jest to jedyny powód, dla którego Midjourney nie jest już dostępny za darmo. Wielu użytkowników po prostu utworzyło nowe konto Discord, aby korzystać z usługi bez ograniczeń. Deweloperzy tego nie lubią.
źródło: engadget