Inżynier bezpieczeństwa AI

PrzeglądTwoja przyszłość. Zabezpieczone. ISC2 jest siłą na rzecz dobra.

Jako wiodąca na świecie organizacja członkowska non-profit zrzeszająca specjalistów ds. cyberbezpieczeństwa, nasze podstawowe wartości - uczciwość, rzecznictwo, zaangażowanie, włączenie i doskonałość - napędzają wszystko, co robimy, aby wspierać naszą wizję bezpiecznego cyberświata. Nasze uznane na całym świecie, wielokrotnie nagradzane portfolio certyfikatów zapewnia niezależne i uznawane na całym świecie potwierdzenie wiedzy, umiejętności i doświadczenia w zakresie cyberbezpieczeństwa na wszystkich poziomach kariery. Nasze ramię charytatywne, Centrum Bezpieczeństwa Cybernetycznego i Edukacji, umożliwia ISC2 i naszym członkom służenie społeczeństwu poprzez edukację osób najbardziej bezbronnych na temat zagrożeń cybernetycznych oraz umożliwienie dostępu do zawodu cybernetycznego i umożliwienia mu rozwoju.

Dowiedz się więcej na ISC2 online i połącz się z nami na Twitterze, Facebooku i LinkedIn. Dołączając do ISC2, wykażesz swoje zaangażowanie na rzecz włączającego i sprawiedliwego środowiska. Twoje wsparcie dla wyjątkowych perspektyw i doświadczeń, którymi dzielą się nasi globalni pracownicy i specjaliści ds. cyberbezpieczeństwa, zostanie docenione.

Zapraszamy Cię do wzięcia aktywnej roli i pomagania nam w tworzeniu prawdziwego poczucia przynależności w całej naszej organizacji - środowiska autentyczności, zaufania, wzmocnienia i powiązań, które wzmacniają wszystkie nasze sukcesy. Dowiedz się więcej.Podsumowanie stanowiskaInżynier ds. bezpieczeństwa AI jest odpowiedzialny za identyfikację, ocenę i łagodzenie zagrożeń bezpieczeństwa wprowadzanych przez sztuczną inteligencję i systemy uczenia maszynowego w całym majątku technologicznym ISC2. Ta rola leży na styku bezpieczeństwa ofensywnego, bezpieczeństwa aplikacji i nauki o danych - ocenia potoki AI/ML, integracje dużych modeli językowych (LLM) i produkty oparte na sztucznej inteligencji pod kątem zagrożeń kontradyktoryjnych, luk w modelach i zagrożeń w łańcuchu dostaw.

Inżynier bezpieczeństwa AI ściśle współpracuje z zespołem ds. bezpieczeństwa i operacji technicznych, inżynierią i interesariuszami produktu, aby wdrożyć mechanizmy kontroli bezpieczeństwa w całym cyklu rozwoju sztucznej inteligencji i bezpośrednio przyczynia się do realizacji programu ISMS ISO/IEC 27001:2022 ISC2 oraz szerszych celów zarządzania cyberbezpieczeństwem. ObowiązkiWykonywanie ocen bezpieczeństwa systemów AI/ML, w tym modelowanie zagrożeń, testowanie kontradyktoryjne oraz aplikacji opartych na LLM oraz produktów i usług opartych na sztucznej inteligencji zintegrowanych z produktami i operacjami ISC2. Oceń implementacje AI/ML pod kątem luk w zabezpieczeniach, w tym natychmiastowego wstrzyknięcia, jailbreakowania, inwersji modelu, zatruwania danych, wnioskowania o członkostwie i ataków na przykładach kontradyktoryjnych.

Definiuj i wdrażaj standardy bezpiecznego cyklu życia sztucznej inteligencji (AI-SDLC), w tym bezpieczne szkolenie modeli, zarządzanie danymi, kontrolę agentów i inną kontrolę dostępu oraz bariery wdrażania modeli. Przeprowadzaj oceny ryzyka dostawców sztucznej inteligencji i modeli łańcucha dostaw będących stronami trzecimi; oceniać usługi AI oparte na API (np. OpenAI, Anthropic, Claude Code, Azure OpenAI) pod kątem obsługi danych, prywatności i stanu bezpieczeństwa.

Współpracuj z zespołami inżynieryjnymi i produktowymi, aby przeglądać projekty funkcji AI, przeprowadzać przeglądy bezpieczeństwa przed wdrożeniem i przedstawiać zalecenia dotyczące akceptacji ryzyka w przypadku wyjątków SSDLC związanych ze sztuczną inteligencją. Monitoruj ewoluujący krajobraz zagrożeń AI; utrzymuj świadomość pojawiających się technik ataków, zmian regulacyjnych (ustawa EU AI, NIST AI RMF) i najlepszych praktyk branżowych (10 najlepszych praktyk OWASP dla LLM, MITRE ATLAS). Wspieraj SZBI ISO/IEC 27001:2022 ISC2 poprzez mapowanie kontroli ryzyka AI do odpowiednich wymagań Załącznika A (w tym A.8.25 do A.8.29) i wnoszenie planów postępowania z ryzykiem specyficznych dla AI do rejestru ryzyka organizacyjnego.

Opracuj i dostarczaj wewnętrzne szkolenia i treści uświadamiające na temat odpowiedzialnego wykorzystania sztucznej inteligencji, zagrożeń specyficznych dla sztucznej inteligencji i bezpiecznych wzorców integracji dla programistów i interesariuszy biznesowych. Przyczyniaj się do wiodącej pozycji ISC2 w zakresie bezpieczeństwa sztucznej inteligencji, wspierając treści, certyfikację i inicjatywy badawcze zgodne z misją organizacji. Wykonuj różne przydzielone obowiązki.

Kompetencje behawioralne Ciekawość intelektualna: Rozwija się w niejednoznacznej, szybko rozwijającej się dziedzinie; aktywnie bada pojawiające się możliwości sztucznej inteligencji i ich konsekwencje dla bezpieczeństwa. Uczciwość i odpowiedzialność: podchodzi do bezpieczeństwa sztucznej inteligencji w oparciu o mocne podstawy etyczne, szczególnie w odniesieniu do uprzedzeń, uczciwości, prywatności i ryzyka podwójnego zastosowania systemów sztucznej inteligencji. Wpływ międzyfunkcyjny: Potrafi tłumaczyć złożone koncepcje ryzyka związane ze sztuczną inteligencją dla różnych odbiorców, w tym inżynierów, kadry kierowniczej, audytorów i nietechnicznych interesariuszy biznesowych.

Możliwości adaptacji: Wygodna obsługa bez ustalonych schematów; dokonuje rozsądnej oceny sytuacji, gdy standardy, przepisy i narzędzia są jeszcze w fazie rozwoju. Dopasowanie misji: Wykazuje prawdziwe zaangażowanie w misję ISC2 polegającą na wspieraniu bezpiecznego cyberświata; wnosi profesjonalizm i wsparcie w dyscyplinę bezpieczeństwa sztucznej inteligencji. Kwalifikacje Znajomość frameworków AI/ML (PyTorch, TensorFlow) i usług AI opartych na chmurze (Azure OpenAI, AWS Bedrock, Google Vertex AI).

Praktyczna znajomość ram zarządzania sztuczną inteligencją: NIST AI RMF, OWASP Top 10 for LLM Applications, MITRE ATLAS i kategorie ryzyka określone w ustawie UE o sztucznej inteligencji. Podstawy tradycyjnego bezpieczeństwa aplikacji i infrastruktury, w tym testowania aplikacji internetowych, bezpieczeństwa sieci i zasad bezpiecznego kodowania (Python, JavaScript). Preferowane odpowiednie certyfikaty: CISSP, CSSLP, GWEB, GMLSC lub powstające certyfikaty bezpieczeństwa AI; Cenione są certyfikaty ISC2.

Udokumentowane badania, publikacje, prezentacje konferencyjne lub wkład typu open source w przestrzeń bezpieczeństwa sztucznej inteligencji to silny wyróżnik. Wykształcenie i doświadczenie zawodowe Licencjat z informatyki, nauki o danych, cyberbezpieczeństwa lub pokrewnej dziedziny. Rozważymy kandydatów posiadających dyplom ukończenia szkoły średniej lub odpowiednik regionalny oraz co najmniej siedem (7) lat doświadczenia w cyberbezpieczeństwie.

Ponad 3 lata doświadczenia w cyberbezpieczeństwie, z czego co najmniej 1 - 2 lata skupione na bezpieczeństwie AI/ML, bezpieczeństwie aplikacji lub pokrewnej dziedzinie. Doświadczenie w ocenie zagrożeń dla prywatności danych w procesach AI, w tym w obsłudze danych szkoleniowych, ekspozycji na dane osobowe i monitorowaniu wyników modeli. Ze względu na stos technologii ISC2 preferowane jest doświadczenie w zarządzaniu tożsamością i dostępem w środowiskach chmurowych, w tym Okta i SAML/OAuth.

Doświadczenie we wspieraniu programów zgodności z normami ISO/IEC 27001, SOC 2 lub podobnymi będzie dodatkowym atutem. Praktyczne doświadczenie z technikami testowania bezpieczeństwa AI/ML, w tym kontradyktoryjnymi atakami ML, natychmiastowym wstrzykiwaniem LLM, nadużyciami rurociągu RAG i wykorzystaniem narzędzi w agentycznych systemach AI. Wymagania fizyczne i psychiczneMożliwość podróżowania do 10% czasu, może obejmować również podróże nocne i międzynarodowe.

Pracuj w normalnych godzinach pracy, a w razie potrzeby w dłuższych godzinach.Pozostań w pracy pozycja stacjonarna, często stojąca lub siedząca, przez dłuższy czas. Rola ta wymaga ciągłej koncentracji podczas analizowania zachowań modeli sztucznej inteligencji, przeglądania architektury rurociągów i tworzenia szczegółowej dokumentacji technicznej. Regularne korzystanie ze sprzętu biurowego, takiego jak komputer/laptop i ekrany monitorów.

Zręczność rąk i palców do obsługi klawiatury, myszy i innych komponentów komputera. Łączne nagrody Przedział wynagrodzeń na tym stanowisku wynosi od 50 550 do 67 811 GBP rocznie. Ostateczna płaca opiera się na kilku czynnikach, w tym między innymi na kapitale wewnętrznym, danych rynkowych i wykształcenie, doświadczenie zawodowe, certyfikaty itp. Informacje dotyczące naszego kompleksowego pakietu świadczeń znajdziesz tutaj.

To stanowisko będzie publikowane przez minimum 5 dni kalendarzowych. Jest to aktualny wakat i pracodawca zamierza obsadzić to stanowisko w ciągu około 30 dni. Oświadczenie o równych szansach zatrudnienia Wszyscy kwalifikujący się kandydaci otrzymają wynagrodzenie za zatrudnienie bez względu na rasę, kolor skóry, religię, wiek, płeć, pochodzenie narodowe, niepełnosprawność, genetykę, chroniony status weterana, orientację seksualną, tożsamość lub ekspresję płciową lub jakąkolwiek inną cechę chronioną przez obowiązujące prawo.

Kandydaci do pracy nie będą zobowiązani do ujawniania zapieczętowanych lub zniszczonych akt wyroków skazujących lub aresztowań w ramach procesu rekrutacji. Oryginalnie opublikowano w Himalajach