Projekt włączenia rdzennych kobiet aborygeńskich w projektowanie interpretowalnej sztucznej inteligencji na potrzeby opieki perinatalnej pokazuje, że najbardziej wartościowe dane do uczenia modeli mogą pochodzić ze środowisk dotychczas systemowo pomijanych przez cyfrową medycynę. To nie jest typowy projekt badawczy – to próba zbudowania AI, której wyjaśnienia mają sens dla konkretnych kobiet w konkretnych realiach kulturowych, a nie tylko dla białych fartuchów przed monitorem.
Skąd wziął się pomysł na AI projektowaną razem z Aborygenkami?
Temat zdrowia psychicznego w okresie perinatalnym – czyli obejmującym ciążę i czas po porodzie – dotyka kobiet na całym świecie, ale kobiety rdzenne w Australii zmagają się z nim w zupełnie odmiennym kontekście kulturowym, społecznym i historycznym. Twórcy projektu wyszli z założenia, że model AI pozbawiony tej wiedzy kontekstowej będzie po prostu bezużyteczny lub wręcz szkodliwy w tej grupie.
Inicjatywa zakłada bezpośrednie włączenie rdzennych kobiet aborygeńskich w proces kształtowania narzędzia – nie jako obiektów badania, lecz jako współtwórczyń decydujących o tym, jakie sygnały ostrzegawcze są istotne, jak powinna wyglądać komunikacja i jakie wyjaśnienia generowane przez AI będą zrozumiałe i kulturowo bezpieczne.
Takie podejście wpisuje się w szerszy nurt projektowania partycypacyjnego (ang. participatory design) w AI, ale jego zastosowanie w ochronie zdrowia społeczności rdzennych jest nadal czymś rzadkim i wyróżniającym ten projekt na tle globalnych inicjatyw.
Czym jest interpretowalność AI i dlaczego akurat tutaj ma kluczowe znaczenie?
Interpretowalność (ang. interpretability) oznacza zdolność modelu AI do przedstawiania ludzkich, zrozumiałych wyjaśnień swoich decyzji – zamiast dostarczania jedynie numerycznej odpowiedzi „tak” lub „nie”. W kontekście zdrowia psychicznego matek ta cecha ma szczególną wagę: lekarz, położna czy pracownik opieki środowiskowej musi wiedzieć, dlaczego model uznał daną kobietę za osobę zagrożoną, aby mógł podjąć sensowne działanie.
Czarne skrzynki w medycynie budzą uzasadniony opór – tym bardziej gdy dotyczą wrażliwych decyzji klinicznych wobec grup marginalizowanych, które historycznie miały powody nieufać instytucjom medycznym. Model, który potrafi wyjaśnić swój tok rozumowania w sposób dostosowany do kontekstu kulturowego użytkowniczki, buduje zaufanie tam, gdzie wcześniej go nie było.
Projekt kładzie nacisk na to, by wyjaśnienia generowane przez AI były nie tylko technicznie poprawne, ale też kulturowo rezonujące – co oznacza, że wiedza Aborygenek staje się częścią architektury modelu, a nie jedynie warstwą interfejsu nałożoną na gotowe rozwiązanie.
Redakcja IWD Partner: Dyskusja o interpretowalności AI toczy się od lat głównie w środowiskach technicznych i regulacyjnych – tu pojawia się ona w zupełnie innym wymiarze, jako narzędzie naprawy relacji między instytucją a społecznością. Ciekawe, czy podobne podejście mogłoby sprawdzić się w Polsce w kontekście grup wykluczonych z cyfrowej opieki zdrowotnej. Pytanie otwarte: czy AI zaprojektowana z jedną społecznością rdzenną da się w ogóle zaadaptować do innej, czy każda taka inicjatywa musi być budowana od zera?
Jak wygląda proces współpracy przy budowie takiego modelu?
Projekt zakłada aktywne uczestnictwo rdzennych kobiet na każdym etapie – od definicji problemu, przez dobór zmiennych wejściowych, po ocenę jakości wyjaśnień generowanych przez model. Taki tryb pracy różni się zasadniczo od klasycznego podejścia, w którym dane o pacjentach zbiera się, a następnie zleca ich analizę specjalistom bez udziału zainteresowanych.
Kobiety aborygeńskie wnoszą do projektu wiedzę o tym, jakie czynniki ryzyka dla zdrowia psychicznego mają znaczenie w ich wspólnotach – a te mogą być zupełnie inne niż wskaźniki opisane w zachodnich podręcznikach psychiatrii perinatalnej. Sformalizowanie tej wiedzy jako danych treningowych to metodologiczne wyzwanie, które projekt stara się podjąć świadomie.
Rdzenne kobiety pełnią też rolę weryfikatorek wyjaśnień modelu: oceniają, czy komunikat wygenerowany przez AI ma dla nich sens, czy nie opiera się na założeniach kulturowo obcych lub krzywdzących.
Co projekt zmienia w podejściu do AI w opiece perinatalnej?
Dotychczas większość systemów wspomagania decyzji klinicznych w psychiatrii perinatalnej powstawała na danych zbieranych od kobiet z krajów wysokodochodowych, przeważnie o europejskim dziedzictwie kulturowym. Modele te, nawet jeśli były statystycznie skuteczne w swojej grupie referencyjnej, wykazywały słabą generalizację na inne populacje.
Projekt z udziałem Aborygenek proponuje inne wyjście niż próba korekty istniejących modeli: zamiast doadaptowywać coś z zewnątrz, buduje narzędzie razem ze społecznością, której ma służyć. Jeśli podejście to przyniesie mierzalne rezultaty kliniczne, może stanowić argument za zmianą standardów w dziedzinie AI w zdrowiu publicznym.
- Kontekst historyczny: Australijskie społeczności rdzenne od dziesięcioleci wskazują na systemowe nierówności w dostępie do opieki zdrowotnej i brak kulturowej wrażliwości instytucji medycznych.
- Nurt globalny: Inicjatywy angażujące społeczności rdzenne w tworzenie technologii zdrowotnych zyskują na znaczeniu w ostatnich latach wraz z rozwojem ram etyki AI.
- Dziś, 17 października 2026: Ukazuje się publikacja opisująca projekt łączący partycypacyjne projektowanie AI z opieką perinatalną dla kobiet aborygeńskich w Australii.
Powiązane pojęcia z AI i uczenia maszynowego
- Interpretowalność modelu – zdolność systemu AI do generowania zrozumiałych dla człowieka wyjaśnień swoich predykcji lub decyzji.
- Projektowanie partycypacyjne – metoda tworzenia systemów technologicznych z aktywnym udziałem przyszłych użytkowników na każdym etapie procesu projektowego.
- Bias danych treningowych – systematyczne zniekształcenia w zbiorze danych uczących model, prowadzące do niesprawiedliwych lub błędnych wyników dla niedoreprezentowanych grup.
- Zdrowie perinatalne – obszar opieki medycznej obejmujący okres ciąży, porodu i połogu, w tym psychiczne aspekty zdrowia matki.
- Generalizacja modelu – zdolność wytrenowanego modelu do skutecznego działania na danych spoza zbioru treningowego, w tym na danych z innych populacji.
Opracowanie redakcji IWD Partner z wykorzystaniem narzędzi AI na podstawie materiału: Bioengineer.org (17.10.2026).
Zdjęcie: diGital Sennin / Unsplash
