Pracownik Inżynier ds. Bezpieczeństwa Produktu

RDQ426R108 Ta rola jest otwarta dla kandydatów z USA (dowolna lokalizacja) O zespole Zespół ds. bezpieczeństwa AI w Databricks zajmuje się zabezpieczaniem usług AI/ML na platformie Databricks. Ponieważ dostarczamy możliwości sztucznej inteligencji wiodącym w branży, w tym Agent Bricks, pakiet Genie, AI Model Serving, MLflow i Unity AI Gateway, zespół AI Security dba o to, aby te systemy były projektowane, budowane i obsługiwane w sposób bezpieczny. Nasza praca obejmuje również zabezpieczanie własnego wykorzystania sztucznej inteligencji: budowanie odpowiednich barier ochronnych, które umożliwiają pracownikom Databricks wprowadzanie innowacji i bezpieczne dostarczanie rozwiązań.

Zespół łączy ofensywną głębię bezpieczeństwa z wiedzą inżynieryjną AI/ML, aby identyfikować nowe zagrożenia, budować skalowalne zabezpieczenia i wpływać na sposób projektowania produktów AI od podstaw. Prowadzimy ćwiczenia AI Red Team, tworzymy narzędzia zabezpieczające dla obciążeń AI i współpracujemy bezpośrednio z zespołami ds. produktów AI, aby włączyć zabezpieczenia do cyklu życia oprogramowania. --- Rola Jako inżynier oprogramowania zabezpieczającego w zespole ds. bezpieczeństwa AI jesteś starszym liderem technicznym, który wyznacza standardy sposobu, w jaki Databricks zabezpiecza swoje możliwości w zakresie sztucznej inteligencji i uczenia maszynowego. Łączysz głęboką wiedzę specjalistyczną w zakresie ofensywnego bezpieczeństwa z praktyczną wiedzą na temat systemów AI/ML, aby identyfikować i rozwiązywać najważniejsze zagrożenia bezpieczeństwa na platformie AI firmy Databricks. Kierujesz działaniami czerwonego zespołu AI przeciwko produkcyjnym systemom AI, przeprowadzasz przeglądy architektury bezpieczeństwa dla złożonych, wielosystemowych funkcji AI oraz tworzysz narzędzia i struktury, które skalują wpływ zespołu.

Jesteś ekspertem merytorycznym w co najmniej dwóch obszarach bezpieczeństwa sztucznej inteligencji i działasz ze znaczną autonomią, kierując działaniami zaradczymi między zespołami, ustalając standardy techniczne i doradzając członkom zespołu zarówno w zakresie technik ofensywnych, jak i bezpiecznego projektowania sztucznej inteligencji. --- Wpływ, jaki będziesz mieć Zespół AI Red i testy kontradyktoryjne - Kieruj działaniami czerwonego zespołu AI przeciwko produkcyjnym systemom AI firmy Databricks, w tym interfejsom API Foundation Model, systemom zapytań w języku Genie i języku naturalnym, infrastrukturze Model Serving, agentom podłączonym do MCP i potokom RAG - Projektuj i realizuj scenariusze ataków kontradyktoryjnych: natychmiastowe wstrzykiwanie, jailbreakowanie, zatruwanie pamięci, wycieki danych między dzierżawcami w obsłudze wielu dzierżawców i obejście piaskownicy - Opracuj dowód słuszności koncepcji wykorzystuje exploity dla klas podatności specyficznych dla sztucznej inteligencji i przeprowadza analizę wariantów w celu zidentyfikowania pełnego zakresu narażenia na platformę sztucznej inteligencji - Przyczynianie się do ewolucji Databricks AI Security Framework (DASF), utrzymywanie i rozszerzanie taksonomii ryzyka, biblioteki kontroli i metodologii testowania w miarę ewolucji możliwości AI Przeglądy bezpieczeństwa produktów i architektury AI - Przeprowadzanie kompleksowych przeglądów architektury bezpieczeństwa dla złożonych funkcji AI: przepływów pracy agentów modelujących zagrożenia, potoków RAG, wielomodelowych łańcuchów obsługi i integracji narzędzi opartych na MCP - Bezpośrednia współpraca z AI i Zespoły inżynierów ML identyfikują zagrożenia bezpieczeństwa na wczesnym etapie procesu projektowania i definiują praktyczne, skalowalne kontrole - Ocena i rozwiązywanie przekrojowych zagrożeń bezpieczeństwa AI: egzekwowanie uprawnień w katalogu Unity w kontekstach AI, izolacja danych wnioskowania, integralność artefaktów modelu, precyzyjne dostrajanie bezpieczeństwa rurociągów i zarządzanie interfejsami API modeli zewnętrznych za pośrednictwem AI Gateway - Identyfikowanie powtarzających się wzorców bezpieczeństwa w funkcjach AI; opowiadać się za poprawkami architektonicznymi na poziomie klasy, a nie rozwiązaniami dla poszczególnych funkcji. Narzędzia i automatyzacja zabezpieczeń AI - Projektuj i buduj zautomatyzowane narzędzia do testowania bezpieczeństwa AI, w tym biblioteki podpowiedzi, ramy analizy zachowania agentów i zestawy testów ciągłych - Twórz automatyzację wspomaganą sztuczną inteligencją, która skaluje przeglądy bezpieczeństwa, modelowanie zagrożeń i selekcję podatności na zagrożenia dla funkcji AI - Opracuj i utrzymuj bariery bezpieczeństwa i mechanizmy egzekwowania: przegląd LLM jako sędziego, szybkie wyznaczanie limitów, walidacja wyników, ocena ograniczanie i rejestrowanie audytów Działania naprawcze i standardy międzyzespołowe - Ustalanie standardów technicznych dotyczących oceny, ustalania priorytetów i usuwania zagrożeń bezpieczeństwa AI w całej organizacji inżynieryjnej - Prowadzenie działań naprawczych między zespołami w przypadku znaczących ustaleń dotyczących bezpieczeństwa AI, definiowanie wymagań dotyczących poprawek, sprawdzanie poprawności poprawek i zapewnianie zasięgu regresji w potokach CI/CD - Tworzenie wysokiej jakości modeli zagrożeń, porad dotyczących bezpieczeństwa i sekcji zwłok, które wpływają na decyzje organizacyjne w zakresie ryzyka dotyczącego produktów AI Opieka mentorska i społeczność - Inżynierowie-mentorzy w zespole ds. bezpieczeństwa AI kontradyktoryjne techniki uczenia maszynowego, modelowanie zagrożeń AI i rozwój narzędzi zabezpieczających - Wkład w wewnętrzne zasoby wiedzy, w tym materiały szkoleniowe, wzorce projektowe i szablony modeli zagrożeń, które zwiększają płynność bezpieczeństwa AI w całej organizacji inżynieryjnej - Reprezentowanie Databricks w zewnętrznej społeczności zajmującej się bezpieczeństwem sztucznej inteligencji poprzez publikacje, rozmowy konferencyjne lub wkład w postaci open source --- Czego szukamy - 7 - 10 lat połączonego doświadczenia w bezpieczeństwie ofensywnym, badaniach nad bezpieczeństwem AI/ML lub inżynierii bezpieczeństwa produktów, z wykazanym przywództwem w zabezpieczaniu złożonych systemów - Tematyka ekspert w co najmniej dwóch z następujących dziedzin bezpieczeństwa sztucznej inteligencji: - LLM i generatywne bezpieczeństwo sztucznej inteligencji (szybkie wstrzykiwanie, jailbreakowanie, ekstrakcja danych szkoleniowych) - Bezpieczeństwo agentów i orkiestracji AI (MCP, współdzielenie pamięci, systemy wieloagentowe) - Bezpieczeństwo infrastruktury ML i obsługi (model obsługujący ryzyko związane z wieloma dzierżawcami, bezpieczeństwo infrastruktury szkoleniowej) - Zarządzanie danymi AI i prywatność (precyzyjna kontrola dostępu, miejsce przechowywania danych, izolacja danych wnioskowania) - Wykazano umiejętność projektowania i przeprowadzania kontradyktoryjnych ataków na produkcyjną sztuczną inteligencję systemy - Dogłębne zrozumienie architektury platformy AI/ML - sposobu uczenia, obsługi i integracji modeli oraz tego, gdzie leżą granice zaufania między komponentami - Ekspert w co najmniej jednej dużej platformie chmurowej (AWS, Azure, GCP) i jej modelu bezpieczeństwa AI/ML - Biegła w języku Python; potrafi czytać i analizować kod modelu ML, skrypty szkoleniowe i kod obsługujący API; praktyczna znajomość co najmniej jednego dodatkowego języka (Go, Java, Scala, Rust) - Doświadczenie we wprowadzaniu ulepszeń bezpieczeństwa AI w wielu zespołach i wpływaniu na decyzje dotyczące architektury produktu - Doświadczenie w tworzeniu zautomatyzowanych narzędzi bezpieczeństwa dla systemów AI - Silny komunikator - przekłada zagrożenia bezpieczeństwa AI na praktyczne wskazówki dla inżynierów, menedżerów produktów i kierownictwa - Pragmatyczne podejście do ryzyka - odróżnia możliwe do wykorzystania ryzyko AI w świecie rzeczywistym od problemów teoretycznych Miło mieć - Opublikowane badania na tematy związane z bezpieczeństwem AI/ML lub doświadczenia prezentowane w miejscach związanych z bezpieczeństwem AI (DEF CON AI Village, warsztaty NeurIPS, Black Hat) - Doświadczenie z OWASP Top 10 dla LLM, MITER ATLAS lub podobnymi frameworkami bezpieczeństwa AI - Znajomość wewnętrznych elementów platform MLflow, Unity Catalog, Delta Lake lub Databricks - OSCP lub równoważny ofensywny certyfikat bezpieczeństwa - Wykształcenie akademickie lub badawcze w zakresie uczenia maszynowego, kontradyktoryjnego ML lub bezpieczeństwa AI --- Dlaczego Databricks W zespole AI Security będziesz pracować nad zajęciami problemu bezpieczeństwa, który nie istniał pięć lat temu i nad którym branża wciąż się zastanawia. Będziesz przeprowadzać spotkania zespołu red team na działającej platformie sztucznej inteligencji używanej przez ponad 12 000 organizacji, tworzyć narzędzia, których nie można kopiować, oraz podejmować decyzje dotyczące bezpieczeństwa, które kształtują sposób tworzenia produktów AI w całej firmie.

Problemy są nowatorskie, stawka realna, a zespół pracujący nad nimi wyjątkowy. Informacje o Databricks Databricks to firma zajmująca się przetwarzaniem danych i sztuczną inteligencją. Ponad 10 000 organizacji na całym świecie - w tym Comcast, Condé Nast, Grammarly i ponad 50% z listy Fortune 500 - korzysta z platformy Databricks Data Intelligence Platform w celu ujednolicenia i demokratyzacji danych, analiz i sztucznej inteligencji.

Databricks ma siedzibę w San Francisco i biura na całym świecie. Została założona przez oryginalnych twórców Lakehouse, Apache Spark™, ​​Delta Lake i MLflow. Aby dowiedzieć się więcej, śledź Databricks na Twitterze, LinkedIn i Facebooku.

KorzyściW Databricks staramy się zapewniać wszechstronne korzyści i dodatki, które spełniają potrzeby wszystkich naszych pracowników. Aby uzyskać szczegółowe informacje na temat świadczeń oferowanych w Twoim regionie, kliknij tutaj. Nasze zaangażowanie na rzecz różnorodności i integracji W Databricks jesteśmy zobowiązani do wspierania zróżnicowanej i włączającej kultury, w której każdy może się wyróżniać.

Dokładamy wszelkich starań, aby nasze praktyki zatrudniania były włączające i spełniały standardy równych szans zatrudnienia. Osoby poszukujące pracy w Databricks są brane pod uwagę bez względu na wiek, kolor skóry, niepełnosprawność, pochodzenie etniczne, stan rodzinny lub małżeński, tożsamość lub ekspresję płciową, język, pochodzenie narodowe, zdolności fizyczne i psychiczne, przynależność polityczną, rasę, religię, orientację seksualną, status społeczno-ekonomiczny, status weterana i inne chronione cechy. Zgodność Jeśli do wykonywania obowiązków służbowych wymagany jest dostęp do technologii lub kodu źródłowego objętego kontrolą eksportu, od uznania Pracodawcy zależy, czy ubiegać się o licencję rządu USA na takie stanowiska, a Pracodawca może odmówić kontynuowania współpracy z kandydatem wyłącznie na tej podstawie.

Aplikuj bezpośrednio na RemoteJobs.org: https://remotejobs.org/remote-jobs/staff-product-security-engineer-databricks