W ciągu zaledwie 12 miesięcy Google DeepMind i Isomorphic Labs zbudowały sieć ponad 15 partnerstw z rządami, organizacjami bezpieczeństwa biologicznego i instytutami badawczymi — i to wszystko po cichu, bez głośnych zapowiedzi. Nas w redakcji IWD Partner zaskakuje nie tyle sam program, co jego punkt wyjścia: otwarcie przyznanie, że te same modele AI, które pomagają odkrywać nowe leki, mogą równie sprawnie pomóc złym aktorom uzupełnić luki w wiedzy o patogenach. To rzadki przypadek, gdy Big Tech mówi wprost o ryzyku własnych narzędzi — zamiast je przemilczać.
Na czym polega program bioodporności Google DeepMind?
Bioodporność (ang. bioresilience) to zdolność systemów — naukowych, medycznych i bezpieczeństwa — do wykrywania zagrożeń biologicznych, odpierania ich i szybkiego powrotu do normalnego funkcjonowania. Google DeepMind i Isomorphic Labs ogłosiły w 2024 roku wspólną inicjatywę, która ma zagwarantować, że rosnące możliwości biologiczne modeli AI nie zostaną wykorzystane przez złych aktorów.
Program opiera się na trzech filarach: zapobieganie nadużyciom, szybsze wykrywanie wybuchów epidemii oraz reagowanie w przypadku ataku lub wybuchu choroby. Każdy z tych obszarów jest wspierany przez przynajmniej część z ponad 15 partnerstw nawiązanych w ciągu ostatnich 12 miesięcy — choć firmy ujawniają nazwy tylko wybranych współpracowników.
Wśród potwierdzonych partnerów znalazły się: Lawrence Livermore National Laboratory, UK AI Security Institute, CEPI (Coalition for Epidemic Preparedness Innovations) oraz Francis Crick Institute. Każda z tych instytucji wnosi inne kompetencje — od zaawansowanej analityki zagrożeń po badania nad szczepionkami w czasie rzeczywistym.
Dlaczego modele językowe stanowią ryzyko biologiczne?
Modele graniczne, takie jak Gemini opracowany przez Google DeepMind, gromadzą coraz bardziej szczegółową wiedzę z biologii, chemii i epidemiologii. Sama ta wiedza nie jest problemem — naukowcy korzystają z niej codziennie do mapowania celów szczepionkowych czy projektowania inhibitorów enzymów.
Problem pojawia się, gdy te same możliwości zostaną połączone z wyspecjalizowanymi agentami AI — takimi jak platforma Antigravity opracowana przez Isomorphic Labs — oraz z zewnętrznymi bazami danych wirusologicznych. Taka kombinacja mogłaby pomóc złemu aktorowi wypełnić luki w wiedzy potrzebne do stworzenia lub wzmocnienia patogenu. Google DeepMind wprost nazywa to „podwójnym mandatem”: umożliwić postęp nauki i jednocześnie zablokować drogi do jej nadużycia.
Szczególnie wrażliwą kategorią są zestawy danych wirusologicznych. DeepMind koordynuje z Frontier Model Forum — organizacją skupiającą czołowych producentów modeli AI — kwestię tego, jak postępować z bardziej ryzykownymi danymi treningowymi. Wirusologia jest tu podanym wprost przykładem obszaru wymagającego szczególnej ostrożności.
Redakcja IWD Partner: Branża AI przyzwyczaiła nas do narracji o „odpowiedzialnym AI”, która często jest pustą deklaracją. Tutaj mamy coś innego — konkretną architekturę ryzyka, w której sam producent modelu przyznaje, że jego narzędzie może być bronią. To przypomina sytuację z lat 90., gdy kryptografia silna stała się dostępna publicznie i rządy USA musiały zdecydować, czy eksportować ją jako broń, czy traktować jak narzędzie wolności słowa. Pytanie, które pozostaje otwarte: kto ostatecznie decyduje o tym, gdzie przebiega granica między legalną nauką a niebezpieczną wiedzą?
Jak Google DeepMind chroni Gemini przed nadużyciami w biologii?
Główną metodą zabezpieczeń po stronie modelu jest post-training — technika dostrajania modelu po zasadniczym treningu, której celem jest nauczenie go odmawiania odpowiedzi na szkodliwe zapytania. Google DeepMind używa kombinacji eksperckich red-teamingów i randomizowanych badań kontrolowanych, aby ocenić, czy Gemini mógłby pomóc komuś pokonać konkretne bariery w zdobywaniu niebezpiecznej wiedzy.
Firma wdraża też klasyfikatory i sondy działające w czasie rzeczywistym, które mają flagować ryzykowną aktywność natychmiast po jej wystąpieniu. Uzupełnieniem jest ukierunkowana analiza logów — metoda wychwytująca subtelniejsze wzorce nadużyć, których automatyczne filtry mogłyby nie zauważyć.
Jednocześnie DeepMind przyznaje, że balansowanie między blokowaniem szkodliwych zapytań a zachowaniem użyteczności dla legalnej nauki jest trudne i nierozwiązane. Zjawisko over-refusal — nadmiernego odmawiania odpowiedzi na uzasadnione pytania naukowe — jest problemem powszechnym w całej branży, nie tylko u Google’a. Program jest wprost opisywany jako proces ciągły, a nie gotowe rozwiązanie.
Ocena ryzyka: kto i co może nadużyć?
Modelowanie zagrożeń stosowane przez Google DeepMind koncentruje się na identyfikacji grup aktorów najbardziej skłonnych do prób nadużyć oraz barier, które ich obecnie powstrzymują. Zamiast zakładać, że każdy użytkownik jest potencjalnym zagrożeniem, firma stara się precyzyjnie zlokalizować tzw. wąskie gardła — punkty, w których dostęp do wiedzy generowanej przez AI mógłby realnie coś zmienić w zdolnościach złego aktora.
Takie podejście ma zalety praktyczne: pozwala unikać masowych restrykcji, które ograniczałyby naukowców, jednocześnie skupiając zasoby na realnie ryzykownych scenariuszach. Jednak wiąże się też z ryzykiem — klasyfikator wytrenowany na znanych wzorcach jailbreaku może okazać się bezsilny wobec nowej taktyki.
Co program oznacza dla globalnego bezpieczeństwa biologicznego?
Google DeepMind zapowiada rozszerzenie partnerskiej sieci w ciągu kolejnych 6–12 miesięcy od publikacji aktualizacji w 2024 roku. Uwaga ma się koncentrować na trzech obszarach: wywiadzie zagrożeń biologicznych, metodach ewaluacji agentów AI oraz mitigacjach jailbreaku. Każdy z tych wątków dotyczy innego etapu potencjalnego zagrożenia — odpowiednio: zapobiegania, oceny i reagowania.
Współpraca z UK AI Security Institute i CEPI sygnalizuje, że inicjatywa ma charakter transatlantycki i wykracza poza typowy model korporacyjnego programu CSR. CEPI — organizacja powołana po epidemii Eboli w 2014–2016 roku, finansowana m.in. przez Wellcome Trust i Komisję Europejską — specjalizuje się właśnie w przyśpieszaniu opracowania szczepionek w odpowiedzi na nowe zagrożenia epidemiczne.
Lawrence Livermore National Laboratory, podlegające Departamentowi Energii USA, wnosi kompetencje w zakresie modelowania zagrożeń i analizy bezpieczeństwa narodowego — co sugeruje, że program obejmuje scenariusze znacznie poważniejsze niż naturalne epidemie.
Dlaczego bioodporność AI ma znaczenie?
Przez ostatnią dekadę debata o bezpieczeństwie AI koncentrowała się głównie na dezinformacji, deepfake’ach i automatyzacji rynku pracy. Zagrożenia biologiczne były marginalizowane jako zbyt odległe lub zbyt specjalistyczne. Program Google DeepMind i Isomorphic Labs z 2024 roku pokazuje, że okno możliwości się zwęża — modele AI osiągnęły już poziom rozumienia biologii, który wymaga systemowych odpowiedzi, a nie tylko etycznych deklaracji.
Według danych opublikowanych przez CEPI, opracowanie nowej szczepionki w odpowiedzi na nieznany patogen zajmuje przeciętnie od 12 do 18 miesięcy w trybie pilnym. AI ma potencjał skrócić niektóre etapy tego procesu nawet kilkakrotnie — ale ta sama zdolność do przyśpieszania rozumienia biologii molekularnej działa symetrycznie po obu stronach: i dla naukowców, i dla potencjalnych sprawców.
Fakt, że program angażuje instytucje rządowe, a nie tylko organizacje pozarządowe, sugeruje, że przynajmniej część rządów traktuje to zagrożenie jako realne i wymagające regulacyjnej odpowiedzi — nie tylko dobrowolnych zobowiązań branży.
Powiązane pojęcia z AI i uczenia maszynowego
- Post-training (dostrajanie po treningu) — technika modyfikowania zachowania modelu językowego po zakończeniu głównego treningu, zwykle w celu dostosowania go do określonych zasad lub ograniczeń bezpieczeństwa.
- Red-teaming — ustrukturyzowany proces testowania systemu AI przez zespół symulujący działania złośliwego użytkownika, w celu wykrycia luk przed wdrożeniem.
- Jailbreak — technika manipulacji promptem lub kontekstem rozmowy, której celem jest skłonienie modelu AI do pominięcia wbudowanych zabezpieczeń i udzielenia odpowiedzi, których model powinien odmówić.
- Over-refusal (nadmierna odmowa) — zjawisko, w którym model AI blokuje uzasadnione, legalne zapytania z powodu zbyt konserwatywnych filtrów bezpieczeństwa, ograniczając użyteczność systemu dla prawdziwych naukowców.
- Dual-use (podwójne zastosowanie) — cecha technologii lub wiedzy, która może służyć zarówno celom pokojowym i naukowym, jak i być wykorzystana do wyrządzenia szkody — kluczowe pojęcie w etyce biotechnologii i AI.
Na podstawie materiałów źródłowych.
