GenAI CBRNE Cyber Expert

# GenAI CBRNE Cyber ​​Expert **Dział:** Wywiad **Lokalizacja:** Zdalny **Rodzaj zatrudnienia:** Pełny etat ## O stanowisku Jako ekspert GenAI CBRNE Cyber ​​Red Team będziesz odgrywać kluczową rolę w kontradyktoryjnym testowaniu i wzmacnianiu barier bezpieczeństwa systemów GenAI przed cyberzagrożeniami wysokiego ryzyka obejmującymi domeny CBRNE. Połączysz głęboką wiedzę specjalistyczną w zakresie cyberbezpieczeństwa ze znajomością domeny CBRNE i praktycznym tworzeniem zespołów AI, aby projektować wyrafinowane podpowiedzi kontradyktoryjne, scenariusze ataków wieloetapowych, jailbreaki i oceny modeli. Twoja praca pozwoli zidentyfikować okoliczności, w których systemy GenAI mogą nieumyślnie udostępnić informacje lub możliwości, które w istotny sposób umożliwiają cyberzagrożenia CBRNE.

Ta rola wymaga kontradyktoryjnego nastawienia: kreatywnego myślenia o tym, jak złośliwi aktorzy mogą manipulować systemami sztucznej inteligencji, łączyć pozornie niegroźne informacje w wielu interakcjach, omijać zabezpieczenia lub wykorzystywać modelowe zachowanie w celu uzyskania wrażliwych informacji dotyczących cyberbezpieczeństwa CBRNE. ## Kluczowe obowiązki - przeprowadzanie rygorystycznego, kontradyktoryjnego łączenia red-team modeli generatywnej sztucznej inteligencji w scenariuszach zagrożeń cybernetycznych CBRNE, systematyczne badanie modeli pod kątem luk w zabezpieczeniach, obejście zabezpieczeń, niebezpieczna eskalacja zdolności i niezamierzone ujawnianie wrażliwych informacji operacyjnych. - Projektuj i wykonuj kontradyktoryjne podpowiedzi, jailbreaki, natychmiastowe mutacje, wieloetapowe rozmowy i oceny oparte na scenariuszach, które sprawdzają, czy modelowe zabezpieczenia pozostają skuteczne w przypadku wyrafinowanych lub zaciemnionych żądań cyber-CBRNE. - Opracuj realistyczne scenariusze ataków cybernetycznych CBRNE obejmujących infrastrukturę krytyczną, przemysłowe systemy kontroli, technologię operacyjną, systemy cyberfizyczne, środowiska laboratoryjne, obiekty z materiałami niebezpiecznymi i inne systemy o poważnych konsekwencjach. - Oceń, czy modele można manipulować, aby w istotny sposób pomóc podmiotom zagrażającym poprzez planowanie ataków, analizę podatności, rozumowanie specyficzne dla celu, rozwiązywanie problemów operacyjnych lub agregację indywidualnie łagodnych informacji w przepływy pracy o podwyższonym ryzyku. - Identyfikuj i dokumentuj tryby awarii i wzorce ataków, w tym żądania pośrednie, odgrywanie ról, zakodowane lub zaciemnione podpowiedzi, zastępowanie terminologii, rozkładanie szkodliwych celów na łagodnie wyglądające podzadania oraz eskalację wieloetapową. - Przeprowadzaj systematyczne audyty taksonomii i oceny bezpieczeństwa, klasyfikuj awarie modeli według wagi i możliwości wykorzystania, odtwarzaj ustalenia i dostarczaj praktyczne zalecenia zespołom ds. bezpieczeństwa sztucznej inteligencji i dopasowywania modeli. - Opracuj powtarzalne zestawy testów zespołu czerwonego, kontradyktoryjne zbiory danych, rubryki oceny i taksonomie ryzyka do pomiaru odporności modeli na pojawiające się zagrożenia cybernetyczne CBRNE. - Utrzymuj aktualną wiedzę na temat pojawiających się technik ataków GenAI, badań nad bezpieczeństwem sztucznej inteligencji, informacji o zagrożeniach cybernetycznych, zagrożeń bezpieczeństwa CBRNE i zagrożeń cyberbezpieczeństwa wpływających na infrastrukturę krytyczną i środowiska o wysokich konsekwencjach. ## Wymagania **Niezbędnik:** - **Lokalizacja:** Musi znajdować się w Stanach Zjednoczonych lub Wielkiej Brytanii i mieć zezwolenie na pracę na ich terenie. - **Wykształcenie:** Wykształcenie wyższe w dziedzinie cyberbezpieczeństwa, informatyki, inżynierii, studiów nad bezpieczeństwem, nauk związanych z CBRNE lub pokrewnej dziedziny technicznej. Można wziąć pod uwagę równoważne zaawansowane doświadczenie zawodowe, wojskowe, wywiadowcze, rządowe lub branżowe. - **Doświadczenie w cyberbezpieczeństwie:** głębokie zrozumienie koncepcji cyberbezpieczeństwa, technik kontradyktoryjnych, analizy podatności, łańcuchów ataków, modelowania zagrożeń i bezpieczeństwa obronnego. - **Wiedza CBRNE:** Silne zrozumienie kwestii bezpieczeństwa i ryzyka związanych ze środowiskami chemicznymi, biologicznymi, radiologicznymi, nuklearnymi i/lub wybuchowymi, w szczególności ich skrzyżowania z systemami cybernetycznymi i cyfrowymi. - **Doświadczenie Red Team:** Udokumentowane doświadczenie w zakresie tworzenia zespołów czerwonych, testów penetracyjnych, symulacji kontradyktoryjnych, badań podatności, testów bezpieczeństwa, emulacji zagrożeń lub porównywalnych metodologii ofensywnego bezpieczeństwa. - **GenAI Red Teaming:** Doświadczenie lub wykazana umiejętność w generowaniu podpowiedzi przeciwstawnych, badaniach jailbreak, szybkich mutacjach, testach wieloobrotowych, analizie zachowań modeli i ocenie kontroli bezpieczeństwa LLM. - **Wiedza ICS/OT:** Znajomość przemysłowych systemów sterowania, SCADA, technologii operacyjnej, systemów cyberfizycznych lub środowisk infrastruktury krytycznej. - **Kontrowersyjne nastawienie:** umiejętność kreatywnego myślenia o tym, jak wyrafinowani użytkownicy mogliby ominąć zabezpieczenia modelu poprzez dekompozycję, zaciemnianie, manipulację kontekstową, interakcje wieloobrotowe lub kombinacje informacji w inny sposób dozwolonych. - **Komunikacja:** Silne umiejętności pisania tekstów technicznych z możliwością jasnego dokumentowania podpowiedzi, metodologii ataków, modelowania reakcji, luk w zabezpieczeniach, etapów reprodukcji, oceny istotności i zalecanych środków zaradczych. ## Preferowane kwalifikacje - praktyczne doświadczenie w pracy zespołowej LLM red teaming, oceny bezpieczeństwa AI, badania dotyczące jailbreak, p Aplikuj bezpośrednio na RemoteJobs.org: https://remotejobs.org/remote-jobs/genai-cbrne-cyber-expert-activefence