Przejdź do treści

Rodzaje sporów

Materiał wytworzony lub zmieniony przez AI

Jak ocenić, czy zdjęcie, zrzut ekranu albo tekst złożony jako dowód powstał lub został zmieniony przy użyciu narzędzi AI, czego ustalić się nie da i jak sformułować tezę dowodową.

Na czym polega spór

Jedna ze stron składa zdjęcia, zrzuty ekranu, nagrania albo teksty jako dowód. Druga twierdzi, że materiał został wygenerowany albo zmieniony przy użyciu narzędzi sztucznej inteligencji. Coraz częściej wątpliwość dotyczy nie całego pliku, tylko jego fragmentu: dorobionego tła, usuniętego obiektu, poprawionej treści na zrzucie.

Co strony zwykle twierdzą

Strona składająca materiał: plik pochodzi bezpośrednio z urządzenia albo z systemu i przedstawia rzeczywisty stan.

Strona przeciwna: materiał nosi ślady obróbki, nie da się go zweryfikować, a jego pochodzenie jest nieznane.

Co rozstrzygają dane

  • Metadane pliku - dane o urządzeniu, oprogramowaniu i czasie utworzenia, a także oznaczenia pochodzenia. Narzędzia AI coraz częściej zapisują w pliku informację, że treść powstała przy ich użyciu, w tym w podpisanym manifeście pochodzenia treści (standard C2PA).
  • Oznaczenia widoczne w obrazie - niektóre narzędzia nanoszą znak bezpośrednio na obraz, na przykład w rogu kadru.
  • Droga przesłania pliku - komunikatory i serwisy społecznościowe zwykle usuwają metadane przy przesyłaniu, a zrzut ekranu albo przycięcie kadru usuwa znak widoczny. Każda droga kasuje inną warstwę, więc sprawdza się obie.
  • Oryginał u źródła - plik w urządzeniu, na koncie w chmurze, w systemie, z którego pochodzi zrzut. Porównanie z oryginałem jest zwykle mocniejsze niż analiza samej kopii.
  • Zgodność treści z innymi źródłami - czy to, co pokazuje zrzut, da się potwierdzić w systemie, który rzekomo przedstawia.

Na tej podstawie da się zwykle ustalić: czy plik nosi oznaczenia użycia narzędzi AI, czy metadane są obecne i spójne, jaką drogą plik został przesłany, czy istnieje oryginał oraz czy treść materiału da się potwierdzić w niezależnym źródle.

Czego z danych ustalić się nie da

Że plik NIE był zmieniany - na podstawie samego braku oznaczeń. Oznaczenia da się usunąć, a wiele dróg przesyłania usuwa je samoczynnie. Brak oznaczenia nie dowodzi autentyczności.

Pewności wyniku narzędzi wykrywających treści AI. Narzędzia oceniające „prawdopodobieństwo AI” dają wynik szacunkowy, którego podstaw zwykle nie da się zweryfikować. Nie mogą samodzielnie przesądzać o pochodzeniu materiału.

Intencji osoby, która materiał przygotowała. To ocena dowodów należąca do sądu.

Co zabezpieczyć i kiedy

Materiał Uwaga o czasie
Oryginalny plik z urządzenia albo z konta, w niezmienionej postaci Każde przesłanie komunikatorem może usunąć metadane - kopię wykonuje się z pominięciem komunikatora
Informacja, skąd i jak plik pozyskano Bez niej nie da się odróżnić cech pliku od skutków jego przesyłania
Dostęp do systemu, z którego pochodzi zrzut ekranu Stan systemu zmienia się; zrzut warto potwierdzić odczytem w tym samym czasie
Kopie robocze i wersje pośrednie, jeżeli istnieją Pozwalają prześledzić, co zmieniano

Jak brzmi dobrze postawiona teza dowodowa

Pytanie, na które biegły nie odpowie:

Czy zdjęcia złożone przez pozwanego są autentyczne?

Autentyczność w ujęciu bezwzględnym nie daje się wykazać z samego pliku, a ocena dowodu należy do sądu.

Pytanie wykonalne:

Czy pliki złożone jako załączniki nr … zawierają w metadanych lub w obrazie oznaczenia wskazujące na użycie narzędzi generujących lub edytujących treść przy pomocy AI? Czy metadane plików są obecne i spójne ze wskazanym źródłem? Czy w materiale znajduje się oryginał plików, a jeżeli tak, czy złożone kopie różnią się od niego i na czym polegają różnice?

Materiał dowodowy w tym typie sporu

Co da się ustalić z poszczególnych rodzajów materiału i kiedy trzeba go zabezpieczyć.

Karta jest materiałem metodycznym. Nie zawiera danych z akt spraw. Pozostałe karty: Rodzaje sporów.

Masz sprawę wymagającą opinii technicznej?

Napisz w kilku zdaniach, czego dotyczy sprawa. Odezwę się z propozycją zakresu i wstępną informacją o możliwym terminie.