Aleksander Mądry — architekt bezpieczeństwa AI, który pytał, co znaczy robić uczenie maszynowe właściwie

01 / Wrocław: fizyka, informatyka i podwójny dyplom

Aleksander Mądry rodzi się i dorasta we Wrocławiu — mieście, które po 1989 roku staje się jednym z najdynamiczniejszych akademickich ośrodków w Polsce, z silnymi tradycjami matematyczno-fizycznymi. Na Uniwersytecie Wrocławskim studiuje równolegle dwa kierunki: informatykę i fizykę teoretyczną. Kończy informatykę w 2006 roku, fizykę teoretyczną w 2007. Dwie perspektywy na świat — fizyk myśli modelami i przybliżeniami, informatyk myśli złożonością i algorytmami — które Mądry przeniesie do całej późniejszej pracy.

Fizyka teoretyczna kształci szczególny rodzaj myślenia rzadki w algorytmice: gotowość do abstrakcji, cierpliwość wobec niezrozumienia i przekonanie, że za pozornie niepowiązanymi zjawiskami kryją się głębsze struktury. Mądry będzie to widać w pracach nad grafami i sieciami przepływów — i jeszcze wyraźniej w podejściu do bezpieczeństwa sieci neuronowych przez pryzmat optymalizacji.

02 / MIT i doktorat: grafy, macierze i prąd elektryczny

W 2007 roku Mądry przyjeżdża do MIT Computer Science and Artificial Intelligence Laboratory (CSAIL), by robić doktorat pod kierunkiem Michela X. Goemansa i Jonathana Kelnera — dwóch wiodących ekspertów od kombinatorycznej optymalizacji i algorytmów grafowych. Temat dysertacji jest głęboki i nieoczywisty: „From Graphs to Matrices, and Back: New Techniques for Graph Algorithms". Kluczowy pomysł polega na traktowaniu grafu jak sieci rezystorów i badaniu jej własności przez pryzmat przepływu prądu — Laplacian grafu jako macierz opisująca strukturę, systemy liniowe jako narzędzie do klasycznych problemów przepływowych.

Efekt jest spektakularny. W 2010 roku Mądry, Goemans, Oveis Gharan i Saberi publikują algorytm aproksymacyjny dla asymetrycznego problemu komiwojażera (ATSP) — klasycznego NP-trudnego problemu bez postępu przez dekady. Praca zdobywa Best Paper Award na SODA 2010. Dysertacja z 2011 roku otrzymuje ACM Doctoral Dissertation Award Honorable Mention i MIT George M. Sprowls Award za najlepszą pracę doktorską z informatyki na MIT.

Grafy są dosłownie wszędzie — w internecie, w sieciach logistycznych, w genomice, w sieciach neuronowych. Efektywne algorytmy grafowe to nie akademicka ciekawostka. To fundamentalna infrastruktura obliczeniowa.

03 / Microsoft Research, EPFL i droga na wydział MIT

Po doktoracie Mądry spędza rok jako postdoc w Microsoft Research New England — satelitarnym laboratorium skupiającym badania podstawowe z teorii informatyki. W 2012 roku przenosi się do EPFL w Lozannie jako assistant professor, gdzie przez trzy lata buduje własną grupę badawczą i rozwija prace nad algorytmami optymalizacyjnymi. W lutym 2015 roku wraca do MIT jako pełnoprawny member of faculty w Department of Electrical Engineering and Computer Science. Jego misja jest prosta w sformułowaniu: robić uczenie maszynowe właściwie. Pytanie, co to znaczy, będzie napędzać jego badania przez następną dekadę.

04 / Zwrot ku uczeniu maszynowemu: zrozumieć głębokość

W połowie drugiej dekady XXI wieku Mądry obserwuje eksplozję głębokiego uczenia. Sieci neuronowe biją rekordy w wizji komputerowej, rozpoznawaniu mowy, grach. Ale są tajemnicze — nikt nie rozumie dobrze, dlaczego działają, ani co tak naprawdę się uczą. Dla matematycznego umysłu Mądrego to jest zaproszenie do badań. Jego laboratorium, MadryLab na MIT, zaczyna systematycznie badać fundamentalne właściwości sieci neuronowych: co reprezentują filtry konwolucyjne, jak modele generalizują, czemu te same sieci, które osiągają ludzki poziom w ImageNet, zachowują się nieprzewidywalnie w specjalnie skonstruowanych przypadkach.

Paralela z teorią algorytmów jest głęboka. Tam Mądry szukał unifikujących narzędzi matematycznych za różnymi problemami grafowymi. Tu szuka unifikujących zasad za różnymi obserwacjami empirycznymi o sieciach neuronowych. Metoda: formalizacja przez optymalizację. Pytanie: jak możemy gwarantować własności modelu, a nie tylko je obserwować?

05 / PGD i rewolucja adversarial robustness

W 2017 roku Mądry z grupą współpracowników (Makelov, Schmidt, Tsipras, Vladu) publikuje pracę, która permanentnie zmienia pole bezpieczeństwa sieci neuronowych: Towards Deep Learning Models Resistant to Adversarial Attacks. Od 2013 roku wiadomo, że sieci neuronowe są podatne na adversarial examples — wejścia nieodróżnialne dla człowieka, ale systematycznie błędnie klasyfikowane przez model. Brakuje jednak jednolitego formalnego ujęcia.

Mądry formalizuje problem przez pryzmat optymalizacji min-max: model powinien minimalizować stratę na klasyfikacji nawet wtedy, gdy atakujący maksymalizuje perturbację wejścia. Kluczowym wnioskiem jest to, że Projected Gradient Descent (PGD) — wielokrokowa metoda wstępowania gradientowego z rzutowaniem na dopuszczalny zbiór — jest de facto uniwersalnym atakiem pierwszego rzędu. Jeśli model przeżyje PGD attack, przeżyje wszystkie słabsze ataki gradientowe.

Dwa lata później, w 2019 roku, ta sama grupa publikuje prowokacyjną następcę: Adversarial Examples Are Not Bugs, They Are Features. Teza jest radykalna: adversarial examples nie są błędem w architekturze sieci. Są konsekwencją tego, że sieć uczy się prawdziwych, lecz nieinterpretowanych dla człowieka cech statystycznych danych. Model jest poprawny — to nasze oczekiwanie wobec niego jest naiwne.

Chcę, żeby społeczeństwo naprawdę zaakceptowało uczenie maszynowe. A to wymaga, żebyśmy rozumieli, co modele robią — i żebyśmy mogli za to odpowiadać.

06 / MIT Center for Deployable Machine Learning

Równolegle z badaniami nad bezpieczeństwem Mądry buduje instytucję: MIT Center for Deployable Machine Learning. Nazwa jest programem. „Deployable" — nadające się do wdrożenia, nie „powerful" ani „state-of-the-art". Mądry wierzy, że przepaść między laboratoryjnym sukcesem modeli AI a ich odpowiedzialnym wdrożeniem w rzeczywistych systemach jest fundamentalnym problemem pola — i że akademia powinna ten problem adresować. Centrum skupia badaczy pracujących nad interpretowalnością, robustnością, uczciwością i wydajnością modeli. Mądry jest też Faculty Co-Lead MIT AI Policy Forum — interdyscyplinarnej inicjatywy łączącej techników z prawnikami, ekonomistami i decydentami. Bezpieczeństwo AI bez polityki jest ślepe, a polityka AI bez technologii jest bezbronna.

07 / OpenAI Preparedness: katastroficzne ryzyko jako projekt badawczy

W grudniu 2023 roku Mądry oficjalnie obejmuje rolę Head of Preparedness w OpenAI — dedykowanego zespołu do badania i mitygowania katastroficznych ryzyk frontier AI. Misja jest bezprecedensowa: systematycznie śledzić, prognozować i chronić przed ryzykami, które mogą mieć charakter katastroficzny — od biologicznej broni syntetycznej po cyberataki na infrastrukturę krytyczną, od eskalacji nuklearnej po utratę kontroli nad zaawansowanymi systemami AI. Mądry traktuje to jako problem badawczy, nie PR-owy. Preparedness Framework — dokument opisujący procesy identyfikacji, śledzenia i mitygacji zagrożeń — jest jego architekturą.

W grudniu 2023 roku zeznaje przed Senatem USA w ramach AI Insight Forum organizowanego przez Senatora Schumera. Jego słowa są wyważone i techniczne — bez sensacyjnych obietnic ani apokaliptycznych ostrzeżeń. Preparedness pod jego kierunkiem dzieli ryzyka na kategorie: CBRN, cyberbezpieczeństwo, wpływ na demokrację, zagrożenia dla bezpieczeństwa zbiorowego — z poziomami (niski / średni / wysoki / krytyczny) i progami blokującymi wdrożenie modelu.

Żyjemy w niezwykłych czasach. Możemy czuć się niesamowicie optymistyczni wobec korzyści, które AI może przynieść — ale musimy też rozpoznać rosnące ryzyko, jakie te systemy mogą stwarzać.

08 / Przetasowanie i odejście

W lipcu 2024 roku OpenAI cicho przesuwa Mądrego z roli Head of Preparedness do roli skoncentrowanej na AI reasoning. Przesunięcie nie jest ogłoszone publicznie — kilka miesięcy wcześniej OpenAI opuściło kilkoro kluczowych badaczy bezpieczeństwa, w tym Ilya Sutskever. Zewnętrzni obserwatorzy pytają, czy presja wyścigu z Google DeepMind nie wypiera długoterminowej troski o bezpieczeństwo.

Mądry nie komentuje publicznie okoliczności. Kontynuuje pracę w innej roli przez kolejne prawie dwa lata. W maju 2026 roku ogłasza na X decyzję o odejściu:

Spędziłem prawie trzy lata w OpenAI i powiem wam — to było doświadczenie życia. To nie była łatwa decyzja. Czas zrobić coś nowego. Wierzę, że jednym z największych wpływów AI będzie transformacja gospodarki — jak firmy rozumieją, decydują i operują.

09 / Wzorzec myślenia: optymalizacja jako soczewka

Przez całą trajektorię Mądrego — od algorytmów grafowych przez adversarial robustness po preparedness katastroficznych ryzyk — biegnie jedna nić: myślenie przez pryzmat optymalizacji i formalnych gwarancji. W teorii algorytmów: jakie jest asymptotycznie optymalne rozwiązanie i jak daleko jesteśmy od niego? W robustności sieci: jaki jest najgorszy możliwy atakujący i jak trenować model, który przeżyje jego atak? W preparedness: jaki jest najgorszy możliwy scenariusz i jak upewnić się, że system go nie umożliwia?

Ta jednolitość podejścia jest rzadka. Większość badaczy AI migruje między polami przez zbieg okoliczności lub kierując się modą. Mądry migruje, bo ma metodę — i sprawdza, gdzie ta metoda jest najbardziej potrzebna. 54 000 cytowań, Presburger Award 2018, Cadence Design Systems Professorship na MIT. Mądry nie jest głośną twarzą branży. Nie prowadzi wojen na Twitterze. Nie przewiduje dat AGI. Mówi precyzyjnie i rzadko — a kiedy mówi przed Senatem USA, mówi o procesach, ewaluacjach i ramach. To jest portret człowieka, który wierzy, że najtrudniejsze problemy wymagają najtwardszego myślenia.