Rodzaje sporów
Materiał wytworzony lub zmieniony przez AI
Jak ocenić, czy zdjęcie, zrzut ekranu albo tekst złożony jako dowód powstał lub został zmieniony przy użyciu narzędzi AI, czego ustalić się nie da i jak sformułować tezę dowodową.
Na czym polega spór
Jedna ze stron składa zdjęcia, zrzuty ekranu, nagrania albo teksty jako dowód. Druga twierdzi, że materiał został wygenerowany albo zmieniony przy użyciu narzędzi sztucznej inteligencji. Coraz częściej wątpliwość dotyczy nie całego pliku, tylko jego fragmentu: dorobionego tła, usuniętego obiektu, poprawionej treści na zrzucie.
Co strony zwykle twierdzą
Strona składająca materiał: plik pochodzi bezpośrednio z urządzenia albo z systemu i przedstawia rzeczywisty stan.
Strona przeciwna: materiał nosi ślady obróbki, nie da się go zweryfikować, a jego pochodzenie jest nieznane.
Co rozstrzygają dane
- Metadane pliku - dane o urządzeniu, oprogramowaniu i czasie utworzenia, a także oznaczenia pochodzenia. Narzędzia AI coraz częściej zapisują w pliku informację, że treść powstała przy ich użyciu, w tym w podpisanym manifeście pochodzenia treści (standard C2PA).
- Oznaczenia widoczne w obrazie - niektóre narzędzia nanoszą znak bezpośrednio na obraz, na przykład w rogu kadru.
- Droga przesłania pliku - komunikatory i serwisy społecznościowe zwykle usuwają metadane przy przesyłaniu, a zrzut ekranu albo przycięcie kadru usuwa znak widoczny. Każda droga kasuje inną warstwę, więc sprawdza się obie.
- Oryginał u źródła - plik w urządzeniu, na koncie w chmurze, w systemie, z którego pochodzi zrzut. Porównanie z oryginałem jest zwykle mocniejsze niż analiza samej kopii.
- Zgodność treści z innymi źródłami - czy to, co pokazuje zrzut, da się potwierdzić w systemie, który rzekomo przedstawia.
Na tej podstawie da się zwykle ustalić: czy plik nosi oznaczenia użycia narzędzi AI, czy metadane są obecne i spójne, jaką drogą plik został przesłany, czy istnieje oryginał oraz czy treść materiału da się potwierdzić w niezależnym źródle.
Czego z danych ustalić się nie da
Że plik NIE był zmieniany - na podstawie samego braku oznaczeń. Oznaczenia da się usunąć, a wiele dróg przesyłania usuwa je samoczynnie. Brak oznaczenia nie dowodzi autentyczności.
Pewności wyniku narzędzi wykrywających treści AI. Narzędzia oceniające „prawdopodobieństwo AI” dają wynik szacunkowy, którego podstaw zwykle nie da się zweryfikować. Nie mogą samodzielnie przesądzać o pochodzeniu materiału.
Intencji osoby, która materiał przygotowała. To ocena dowodów należąca do sądu.
Co zabezpieczyć i kiedy
| Materiał | Uwaga o czasie |
|---|---|
| Oryginalny plik z urządzenia albo z konta, w niezmienionej postaci | Każde przesłanie komunikatorem może usunąć metadane - kopię wykonuje się z pominięciem komunikatora |
| Informacja, skąd i jak plik pozyskano | Bez niej nie da się odróżnić cech pliku od skutków jego przesyłania |
| Dostęp do systemu, z którego pochodzi zrzut ekranu | Stan systemu zmienia się; zrzut warto potwierdzić odczytem w tym samym czasie |
| Kopie robocze i wersje pośrednie, jeżeli istnieją | Pozwalają prześledzić, co zmieniano |
Jak brzmi dobrze postawiona teza dowodowa
Pytanie, na które biegły nie odpowie:
Czy zdjęcia złożone przez pozwanego są autentyczne?
Autentyczność w ujęciu bezwzględnym nie daje się wykazać z samego pliku, a ocena dowodu należy do sądu.
Pytanie wykonalne:
Czy pliki złożone jako załączniki nr … zawierają w metadanych lub w obrazie oznaczenia wskazujące na użycie narzędzi generujących lub edytujących treść przy pomocy AI? Czy metadane plików są obecne i spójne ze wskazanym źródłem? Czy w materiale znajduje się oryginał plików, a jeżeli tak, czy złożone kopie różnią się od niego i na czym polegają różnice?
Poradniki dla pełnomocników
Powiązane rodzaje sporów
Materiał dowodowy w tym typie sporu
Co da się ustalić z poszczególnych rodzajów materiału i kiedy trzeba go zabezpieczyć.
Karta jest materiałem metodycznym. Nie zawiera danych z akt spraw. Pozostałe karty: Rodzaje sporów.
Masz sprawę wymagającą opinii technicznej?
Napisz w kilku zdaniach, czego dotyczy sprawa. Odezwę się z propozycją zakresu i wstępną informacją o możliwym terminie.