Analityk ds. egzekwowania zabezpieczeń, projekt dostosowany do wieku

Siedziba: Remote-Friendly, Stany Zjednoczone; San Francisco, Kalifornia | Nowy Jork, Nowy Jork | Adres URL Waszyngtonu: http://anthropic.com Informacje o firmie Anthropic Misją firmy Anthropic jest tworzenie niezawodnych, możliwych do interpretacji i sterowalności systemów sztucznej inteligencji. Chcemy, aby sztuczna inteligencja była bezpieczna i korzystna dla naszych użytkowników i społeczeństwa jako całości. Nasz zespół to szybko rosnąca grupa zaangażowanych badaczy, inżynierów, ekspertów ds. polityki i liderów biznesowych współpracujących nad budowaniem korzystnych systemów sztucznej inteligencji.

Informacje o roli Jako analityk ds. egzekwowania zabezpieczeń w zespole ds. dobrego samopoczucia użytkowników będziesz tworzyć i realizować przepływy pracy egzekwowania prawa, które zapewniają bezpieczeństwo naszych produktów, ze szczególnym naciskiem na wykrywanie i łagodzenie potencjalnych szkód. Na początku skupisz się na tym, jak Anthropic radzi sobie z wiekiem. Główną częścią tej pracy jest upewnienie się, że nasze produkty konsumenckie docierają do właściwych odbiorców, co obejmuje sygnały wykrywające, ścieżki weryfikacji i procedury odwoławcze, które chronią nieletnich użytkowników przed korzystaniem z powierzchni, które nie są dla nich przeznaczone.

Claude dociera także do młodszych użytkowników za pośrednictwem zewnętrznych programistów korzystających z naszego interfejsu API, a Ty będziesz partnerem w zakresie egzekwowania prawa, na którym polegają zespoły sprzedaży i platformy, gdy klienci potrzebują wskazówek dotyczących wdrożenia odpowiedniego do wieku. Z czasem stanowisko to może rozszerzyć się na szersze obszary egzekwowania dobrego samopoczucia użytkowników. Bezpieczeństwo jest podstawą naszej misji, a Ty pomożesz kształtować egzekwowanie zasad, aby nasi użytkownicy mogli bezpiecznie wchodzić w interakcję z naszymi produktami i rozwijać się na ich podstawie w nieszkodliwy, pomocny i uczciwy sposób.

Ważny kontekst dla tej roli: na tym stanowisku możesz być narażony na kontakt z wyraźnymi treściami obejmującymi szereg tematów, w tym o charakterze seksualnym, brutalnym lub zakłócającym spokój psychiczny. W zespołach ds. polityki i egzekwowania prawa zatrudnieni są także pracownicy dyżurujący na wezwanie. Kluczowe obowiązki Projektowanie i tworzenie zautomatyzowanych systemów egzekwowania prawa oraz przeglądanie przepływów pracy, które skutecznie skalują się przy zachowaniu wysokiej dokładności.

Współpracuj z zespołami inżynieryjnymi i analitykami danych, aby zoptymalizować modele wykrywania naruszeń zasad i zautomatyzowanych systemów egzekwowania. Przeglądaj oznaczone treści, aby usprawniać egzekwowanie i udoskonalanie zasad. Egzekwuj zasady użytkowania, koncentrując się na wykrywaniu i łagodzeniu potencjalnego szkodliwego wykorzystania systemów sztucznej inteligencji.

Współpracuj z interesariuszami z zakresu prawa, polityki publicznej i prywatności, aby nasze podejście do zapewniania wieku było proporcjonalne, chroniące prywatność i dostosowane do zmieniającego się otoczenia regulacyjnego. Wspieraj zespół projektujący zasady ds. zabezpieczeń, dostarczając szczegółowe informacje zwrotne na temat zasad. luki w oparciu o rzeczywiste scenariusze egzekwowania. Bądź na bieżąco z pojawiającymi się najlepszymi praktykami w zakresie egzekwowania zasad dotyczących sztucznej inteligencji i wykorzystuj je do podejmowania decyzji i przepływów pracy.

Odpowiedzialny za wielowarstwowe podejście firmy Anthropic do zapewniania wieku - oświadczenia własne, sygnały behawioralne, weryfikacja i odwołania od zakazów - w celu zapewnienia bezpieczeństwa naszych własnych produktów konsumenckich. Egzekwowanie dobrego samopoczucia użytkowników, gdzie wiek jest kluczowym czynnikiem stosowania zasad, np. treści o charakterze seksualnym i nielegalnych substancji. Minimalne kwalifikacje.

Doświadczenie w zakresie zaufania i bezpieczeństwa, bezpieczeństwa dzieci w Internecie, zapewniania wieku, prywatności, produktów. polityki lub pokrewnej dziedziny. Wiedza merytoryczna w jednym lub większej liczbie spośród: systemów zapewniania wieku lub weryfikacji wieku, projektowania dostosowanego do wieku, bezpieczeństwa dzieci w Internecie, metod weryfikacji chroniących prywatność lub klasyfikacji treści dla młodych ludzi. Doświadczenie w prowadzeniu inicjatyw interdyscyplinarnych z partnerami ds. produktu, inżynierii, prawa i polityki - szczególnie tam, gdzie konieczne jest łączenie kompromisów w zakresie bezpieczeństwa, prywatności i użyteczności.

Doświadczenie w poruszaniu się po zmieniających się krajobrazach regulacyjnych i najlepszych praktykach w zakresie egzekwowania prawa w zakresie zapewniania wieku (w tym ram takich jak brytyjskie AADC, COPPA i DSA). CSAM/CSEM, NCII i cyfrowy dobrostan Przemyślane spojrzenie na kompromisy związane z prywatnością i bezpieczeństwem nieodłącznie związane z weryfikacją wieku - w tym wtedy, gdy właściwym rozwiązaniem są mniej inwazyjne podejścia Silne umiejętności komunikacji pisemnej, z doświadczeniem w tworzeniu jasnych briefów i rekomendacji dla interesariuszy technicznych i nietechnicznych Komfort korzystania z danych (SQL lub podobnych narzędzi) do pomiaru tego, co działa i podejmowania świadomych decyzji Doskonała ocena i umiejętność współpracy z członkami zespołu podczas nawigacji szybko zmieniających się priorytetów i strumieni pracy Preferowane kwalifikacje Budowanie doświadczenia lub obsługa przepływów bramkujących wiekowo, sygnały szacowania wieku, wykrywanie kont nieletnich lub procedury odwoławcze Doświadczenie w doradzaniu lub współpracy z platformami stron trzecich w zakresie bezpiecznego wdrażania dla młodszych użytkowników Doświadczenie w pracy z zewnętrznymi dostawcami weryfikacji wieku lub ich ocenianiu Głębokie zainteresowanie bezpieczeństwem sztucznej inteligencji i odpowiedzialnym rozwojem technologii Doświadczenie w pisaniu skutecznych podpowiedzi dla generatywnych systemów AI w kontekście przeglądu treści lub egzekwowania prawa Zakres rocznego wynagrodzenia dla tej roli jest wymieniony poniżej. W przypadku stanowisk sprzedażowych podany zakres to zakres docelowych zarobków („OTE”), co oznacza, że zakres obejmuje zarówno docelowe prowizje od sprzedaży/premie sprzedażowe, jak i roczne wynagrodzenie podstawowe na danym stanowisku.

Roczne wynagrodzenie: 245 000 USD - 285 000 USD Logistyka Minimalne wykształcenie: licencjat lub równoważne połączenie wykształcenia, szkolenia i/lub doświadczenia Wymagany kierunek studiów: Kierunek odpowiedni do stanowiska, co wykazano w trakcie zajęć, szkolenie lub doświadczenie zawodowe Minimalna liczba lat doświadczenia: Wymagane lata doświadczenia będą korelować z wewnętrznymi wymaganiami dotyczącymi poziomu stanowiska dla danego stanowiska Polityka hybrydowa oparta na lokalizacji: Obecnie oczekujemy, że wszyscy pracownicy będą przebywać w jednym z naszych biur przez co najmniej 25% czasu. Jednak niektóre stanowiska mogą wymagać więcej czasu w naszych biurach. Sponsoring wizowy: Sponsorujemy wizy!

Nie jesteśmy jednak w stanie skutecznie sponsorować wiz dla każdego stanowiska i każdego kandydata. Jeżeli jednak złożymy Ci ofertę, dołożymy wszelkich starań, aby uzyskać dla Ciebie wizę, a do pomocy w tym zakresie zatrudnimy prawnika imigracyjnego. Zachęcamy do aplikowania, nawet jeśli uważasz, że nie spełniasz wszystkich kwalifikacji.

Nie wszyscy silni kandydaci będą spełniać wszystkie wymienione wymagania. Badania pokazują, że osoby, które identyfikują się z grupami niedostatecznie reprezentowanymi, są bardziej podatne na wystąpienie syndromu oszusta i zwątpienie w siłę swojej kandydatury, dlatego nalegamy, aby nie wykluczać się przedwcześnie i przesłać aplikację, jeśli jesteś zainteresowany tą pracą. Uważamy, że systemy sztucznej inteligencji, takie jak te, które budujemy, mają ogromne implikacje społeczne i etyczne.

Uważamy, że to sprawia, że ​​reprezentacja jest jeszcze ważniejsza i staramy się uwzględniać w naszym zespole szereg różnorodnych perspektyw. Twoje bezpieczeństwo jest dla nas ważne. Aby uchronić się przed potencjalnymi oszustwami, pamiętaj, że rekruterzy firmy Anthropic kontaktują się z Tobą wyłącznie z adresów e-mail @anthropic.com.

W niektórych przypadkach możemy współpracować ze sprawdzonymi agencjami rekrutacyjnymi, które przedstawią się jako pracujące w imieniu Anthropic. Uważaj na e-maile z innych domen. Legalni rekruterzy firmy Anthropic nigdy nie będą prosić o pieniądze, opłaty ani dane bankowe przed pierwszym dniem pracy.

Jeśli kiedykolwiek będziesz mieć wątpliwości co do komunikacji, nie klikaj żadnych łączy - odwiedź bezpośrednio anthropic.com/careers, aby uzyskać potwierdzone oferty pracy. Czym się różnimy Wierzymy, że badania nad sztuczną inteligencją o największym wpływie będą stanowić wielką naukę. W Anthropic pracujemy jako jeden spójny zespół nad kilkoma projektami badawczymi na dużą skalę.

Cenimy wpływ - realizację naszych długoterminowych celów, jakimi są sterowalna, godna zaufania sztuczna inteligencja - zamiast pracować nad mniejszymi i bardziej szczegółowymi zagadkami. Postrzegamy badania nad sztuczną inteligencją jako naukę empiryczną, która ma tyle samo wspólnego z fizyką i biologią, co z tradycyjnymi wysiłkami w dziedzinie informatyki. Jesteśmy grupą niezwykle współpracującą i często organizujemy dyskusje badawcze, aby mieć pewność, że w danym momencie realizujemy prace o najwyższym wpływie.

Dlatego bardzo cenimy umiejętności komunikacyjne. Najłatwiejszym sposobem zrozumienia kierunków naszych badań jest przeczytanie naszych ostatnich badań. Badania te stanowią kontynuację wielu kierunków, nad którymi pracował nasz zespół przed Anthropic, w tym: GPT-3, interpretacja oparta na obwodach, neurony multimodalne, prawa skalowania, sztuczna inteligencja i obliczenia, konkretne problemy związane z bezpieczeństwem sztucznej inteligencji oraz uczenie się na podstawie ludzkich preferencji.

Przyjdź i pracuj z nami! Anthropic to organizacja pożytku publicznego z siedzibą w San Francisco. Oferujemy konkurencyjne wynagrodzenie i świadczenia, opcjonalne dopasowanie darowizn kapitałowych, hojne urlopy i urlopy rodzicielskie, elastyczne godziny pracy oraz uroczą przestrzeń biurową, w której możesz współpracować ze współpracownikami.

Wytyczne dotyczące wykorzystania sztucznej inteligencji przez kandydatów: zapoznaj się z naszą polityką dotyczącą korzystania ze sztucznej inteligencji w procesie aplikacyjnym. Aplikuj bezpośrednio na RemoteJobs.org: https://remotejobs.org/remote-jobs/safeguards-enforcement-analyst-age-odpowiedni-design-anthropic