Sztuczna inteligencja może wyrządzić „niewiarygodne” szkody

Po pierwsze, był to wizerunek papieża.

Głowa Kościoła katolickiego przechadza się po Watykanie w puchowej kurtce Balenciagi za 5000 dolarów.

Wkrótce potem pojawiło się zdjęcie byłego prezydenta USA Donalda Trumpa, który fizycznie opiera się aresztowaniu przez sześciu funkcjonariuszy policji.

Dwa przykłady zdjęć, które obiegły świat z wydarzeń, które nigdy się nie wydarzyły.

Sanjana Hatutua jest jednym z wiodących nowozelandzkich ekspertów w dziedzinie dezinformacji w Internecie i należy do grupy badawczej Disinformation Project.

On i jego współpracownicy są coraz bardziej zaniepokojeni brakiem kontroli i równowagi wokół tej ciągle rozwijającej się technologii, która daje milionom ludzi na całym świecie swobodny i otwarty dostęp do narzędzi, które mogą tworzyć hiperrealistyczne obrazy z zaledwie kilku linijek tekstu.

„Ta rodzina sztucznej inteligencji ewoluuje w tempie nigdy wcześniej nie notowanym w informatyce”.

„Dlaczego te produkty, platformy i narzędzia są rozwijane w takim tempie, że nie mają żadnej etycznej bariery w firmach, które je opracowują?

„Niektóre wiodące firmy — w tym Microsoft — usuwają zespoły w ramach (swoich) firm, analizując etyczne implikacje narzędzi, które opracowują w szybkim tempie”.

W rezultacie, powiedział, społeczeństwo jest zagrożone.

„Staliśmy się świnkami doświadczalnymi, niejako królikami doświadczalnymi, globalnie i lokalnie, dla wielu narzędzi z rodziny GAI, które mogą powodować naprawdę zadziwiające szkody”.

Powiedział, że to tak, jakby pierwszego dnia dać studentowi medycyny skalpel i poprowadzić go na operację na otwartym sercu, aby nauczył się swojego rzemiosła.

Wymyka się wszelkim wyjaśnieniom, dlaczego te narzędzia są wprowadzane, gdy twórcy, producenci i sami prezesi mówią, że nie mają lekarstwa na nadużycia i nadużycia. [of their tools] a nawet jak ich narzędzia działają wewnętrznie”.

Wróćmy do Donalda Trumpa.

Chociaż same zdjęcia można było szybko zdemaskować, dla niektórych osób byłoby nieuchronnie za późno, aby je „odkryć”.

READ Jeffrey Miller: strategia Chin dominuje w polityce zagranicznej Nowej Zelandii

Gdy byłemu prezydentowi postawiono zarzuty karne, te zdjęcia wypełniły pustkę w tym, czego ludzie mogliby się spodziewać, i oszukały niektórych ludzi, aby uwierzyli, że temat zdjęcia jest prawdziwy.

I właśnie tutaj siła dezinformacji w połączeniu z najnowszymi osiągnięciami GAI stanowi potężną kombinację.

„Dzisiaj każdy może stworzyć film, kreskówkę, mema, manipulować obrazem, stworzyć syntetyczne media, sklonować twarz osoby lub odtworzyć jej głos lub głos, aby stworzyć treść, która jest wystarczająco wiarygodna, aby zmotywować ludzi do zrobienia czegoś, do uwierzenia w Coś, zapisanie się na coś, a następnie działanie zgodnie z tymi przekonaniami. To ogromna moc „- powiedział Hatutua.

Ale celem dezinformacji niekoniecznie jest twierdzenie, że dezinformacja jest prawdziwa, ale raczej kwestionowanie, czym ona jest.

„Kiedy nic nie jest absolutnie pewne ani prawdziwe, nic nie może być przedstawione jako autentyczne i prawdziwe. I to jest korzyść netto z dezinformacji. Ponieważ powoduje to niestabilność, którą nazywamy rozpadem prawdy lub zakłóceniami informacji, które zasadniczo pomagają w spisku , w dezinformacji, aw szczególności w dezinformacji, aby wycelować w demokrację w ogólności”.

Powiedział, że rzeczywiste zagrożenia związane z postępem tej technologii w sposób niekontrolowany i nieuregulowany są różnorodne i głęboko niepokojące.

Istnieje możliwość, że sztuczne zdjęcia i filmy mogą osłabić nasz wymiar sprawiedliwości, a nawet wywołać obawy dotyczące bezpieczeństwa narodowego.

„To potwór z głową hydry. Dotyczy to nie tylko sądownictwa, ale także policji, łańcucha dowodowego, dopuszczalności dowodów w sądach, to jest to, co uważamy za słuszne”.

Może to prowadzić do reperkusji giełdowych, supermarketów, może stworzyć przekonanie, że polityk powiedział coś, czego nie powiedział.

„Są to konsekwencje w świecie rzeczywistym, które już widzieliśmy w embrionalnych konstruktach w narracjach dezinformacyjnych; wpłynie to na wszystkich, niezależnie od tego, czy go użyjesz, czy nie”.

Wielka Brytania jest obecnie obecna na arenie międzynarodowej Opublikowane wytyczne dotyczące sztucznej inteligencji.

READ Ogłoszono plany weekendu koronacyjnego króla Karola

Opowiada się w nim za ogromnym potencjałem technologii w różnych sektorach, jednocześnie uznając zagrożenia dla zdrowia fizycznego i psychicznego, naruszenia prywatności i potencjalne naruszenia praw człowieka.

Hatutua jest jednym z tych, którzy wzywają decydentów z Nowej Zelandii do wczesnego i szybkiego działania w celu wprowadzenia kontroli i równowagi regulacyjnej, zanim technologia zrobi kolejny krok naprzód.

„(The Disinformation Project) napisał dziesięciopunktową analizę tego, co GAI może oznaczać dla tego kraju”, powiedział Hatutua, która obejmuje również zagrożenia i ryzyko dla bezpieczeństwa narodowego. To jest niebezpieczne. Jest to narastający problem, który nie występuje w szybkim tempie. Wyjeżdżamy i musimy zacząć o tym rozmawiać”.