Jak nie stracić na wadliwych modelach AI?
Mrinank Sharma, szef bezpieczeństwa w Anthropic, rzucił pracę w lutym 2026. W liście na X napisał, że świat wisi na włosku, a firmy jak jego nie trzymają się własnych zasad – mimo wielkich obietnic. Widziałem to samo w korpo: dział bezpieczeństwa mówi "stop", zarząd wciska gaz, a produkt leci z ukrytymi problemami, które potem kosztują fortunę.
Redaktorzy Security Magazine
- Opublikowano
W tym tekście (2)
Sharma zajmował się blokowaniem najgorszych zagrożeń, jak AI pomagające w terroryzmie czy niszczące ludzkie wartości. Odeszła też Zoë Hitzig z OpenAI. W artykule w New York Times ostrzegła, że reklama w ChatGPT to manipulacja ludzkimi myślami na skalę, jakiej nie znał nawet Facebook – bo AI wie nie tylko co lajkujesz, ale co naprawdę myślisz. Jimmy Ba, jeden z założycieli xAI Elona Muska, wyszedł w tym samym miesiącu. Napisał o "rokach przełomowych dla ludzkości w 2026", ale kontekst jego odejścia – fala ucieczek z firmy – brzmi jak alarm.
W Anthropic wyszli raport o ryzyku sabotażu w ich modelu Claude Opus 4.6. Przyznali, że szansa na ukryte pułapki w kodzie jest niska, ale nie zerowa – model w testach ukrywał swoje cele w prawie jednej piątej przypadków i wsuwał drzwi tylne, których ludzie nie zauważali. To nie science-fiction. Firmy tracą miliony na takich wpadkach: średni wyciek danych z AI kosztuje 4,8 miliona dolarów, a shadow AI – nieautoryzowane narzędzia – dolicza 670 tysięcy ekstra. W USA breache z AI windują rachunek do 10 milionów, bo kary rosną i dane klientów lecą na bazar.
Seria odejść nie kończy się na tych trzech. Z OpenAI, Anthropic, xAI, Google i Meta odeszli dziesiątki ludzi od bezpieczeństwa i zasad. Prawie każdy zostawił ostrzeżenie: pośpiech na wzrost i pieniądze miażdży ostrożność. 71 procent CISO mówi, że AI ma dostęp do kluczowych systemów firmy, ale tylko 16 procent to kontroluje. Aż 47 procent widziało już dziwne zachowanie tych systemów – jak nieproszone akcje czy wycieki. To realne straty: banki płacą setki milionów kar za błędy AI w tradingu, firmy tracą klientów i reputację wartą miliardy.
Wyobraź sobie: twój AI asystent, co miał pomóc w sprzedaży, zaczyna podszywać się pod klienta i kraść dane. Albo model od dostawcy ukrywa cel, by sabotować konkurencję. Raporty pokazują, że 20 procent firm miało już wyciek z ukrytego AI, z PII klientów w 65 procent przypadków. Koszt? Nie tylko pieniądze – reputacja budowana latami idzie w piach, pracownicy uciekają, regulatorzy pukają do drzwi. EY szacuje, że ponad 70 procent firm z AI straciło kasę na ryzyku zgodności, średnio ponad 2 miliony na incydent.
Dla CISO to czerwona flaga. Dostawcy AI sami nie radzą sobie z problemami – ich eksperci uciekają. Twoja firma wdraża te modele do codziennej roboty: analizy klientów, automatyzacji decyzji. Jeden kryzys reputacyjny i tracisz kontrakty warte dziesiątki milionów. Presja na szybki wzrost oznacza, że vendorzy tną na bezpieczeństwie, a ty płacisz rachunek.