Główny inżynier oprogramowania - bezpieczeństwo agentów

Pomóż nam wykorzystać technologię, aby dokonać wielkiego ekologicznego wpływu na wszechświat! Kraken napędza niektóre z najbardziej innowacyjnych światowych rozwiązań w dziedzinie energii. Tworzymy technologię, która na nowo definiuje media i odblokowuje nowy system energetyczny przyszłości.

Optymalizując wytwarzanie energii odnawialnej, budując bardziej inteligentną sieć i umożliwiając przedsiębiorstwom użyteczności publicznej zapewnianie klientom wyjątkowej obsługi, nasz system operacyjny zmienia branżę na całym świecie. To niezwykle ekscytujący czas na pracę w energetyce. Dołącz do naszej misji polegającej na poprawie życia JEDNEGO MILIARDA ludzi w ciągu dekady i kształtowaniu czystszej, lepszej przyszłości dla wszystkich.

Pomóż nam wykorzystać technologię, aby zrobić duży zielony ślad we wszechświecie! Kraken napędza jedne z najbardziej innowacyjnych światowych rozwiązań w dziedzinie energii. Jesteśmy firmą technologiczną skupioną na tworzeniu inteligentnego, zrównoważonego systemu energetycznego.

Od optymalizacji wytwarzania energii odnawialnej, tworzenia bardziej inteligentnej sieci i umożliwiania przedsiębiorstwom użyteczności publicznej zapewniania klientom doskonałej obsługi, nasz system operacyjny dla energetyki przekształca branżę na całym świecie w sposób korzystny dla wszystkich. To naprawdę ekscytujący czas pełen energii. Pomóż nam mieć realny wpływ na kształtowanie lepszej, bardziej zrównoważonej przyszłości.

Kraken to system operacyjny służący transformacji energetycznej. Pomagamy przedsiębiorstwom energetycznym, przedsiębiorstwom użyteczności publicznej i operatorom systemów w transformacji sposobu ich działania, aby świat mógł szybciej zmierzać w stronę przyszłości o zerowej emisji dwutlenku węgla. Tworzymy technologię, która rozwiązuje rzeczywiste, skomplikowane problemy na dużą skalę - w zakresie danych, oprogramowania i coraz częściej sztucznej inteligencji.

Nasze zespoły działają szybko, przejmują odpowiedzialność i bardzo dbają o wpływ. Sztuczna inteligencja jest kluczowym obszarem inwestycji dla Kraken Technologies, ponieważ chcemy rozszerzać nasze istniejące możliwości. Kluczową częścią tego jest poszerzenie podstawowej infrastruktury, aby umożliwić zespołom w całej organizacji skuteczne wykorzystanie sztucznej inteligencji w celu przyspieszenia naszej misji.

Będziesz pracować w zespole Agent Safety/Evals, nowym podzespole w ramach AI Foundations. Budujemy wspólne platformy, wiązki przewodów i poręcze, które umożliwiają zespołom inżynieryjnym i produktowym bezpieczne, niezawodne i deterministyczne korzystanie z uczenia maszynowego i agentów generatywnej sztucznej inteligencji w wewnętrznych systemach i przepływach pracy w całej firmie. Jest to zespół skupiony na dostawach, który znajduje się na styku inżynierii i dostawy, koncentrując się na wzmacnianiu pozycji naszych wewnętrznych użytkowników.

Rola Zatrudniamy głównego inżyniera oprogramowania, który będzie kierować naszym nowo utworzonym zespołem ds. bezpieczeństwa agentów/ewaluacji. Ponieważ agenci sztucznej inteligencji podejmują się bardziej autonomicznych zadań w wewnętrznych przepływach pracy firmy Kraken, ta rola ma kluczowe znaczenie dla zapewnienia, że ​​wykonują to bezpiecznie i przewidywalnie. Jest to rola przywódcza skupiająca się na ograniczaniu naszych wewnętrznych agentów AI do oczekiwanej przestrzeni operacyjnej i gwarantowaniu niezawodności systemu.

Zdefiniujesz strategię techniczną dotyczącą oceny modeli, egzekwowania poręczy bezpieczeństwa i zarządzania zachowaniem sztucznej inteligencji na wewnętrznych platformach, umiejętnościach i uprzężach. Będziesz ściśle współpracować z szerszym zespołem AI Foundations i inżynierami w całej firmie Kraken, aby mieć pewność, że nasze dążenie do szybkiego wdrożenia sztucznej inteligencji w narzędziach wewnętrznych nigdy nie spowoduje kompromisu w zakresie bezpieczeństwa, determinizmu ani jakości.🚀 Co będziesz posiadać Kierowanie kierunkiem technicznym w zakresie bezpieczeństwa agentów wewnętrznych: Projektuj i wdrażaj systemy skupiające się na niezawodności, bezpieczeństwie i determinizmie LLM i agentów autonomicznych, ograniczając je ściśle do oczekiwanych przestrzeni operacyjnych w naszych wewnętrznych ekosystemach. Buduj solidne ramy oceny: Opracuj skalowalne ramy oceny uprzęże i ewaluacje dostosowane do wewnętrznych przepływów pracy i umiejętności.

Będziesz odpowiedzialny za zadawanie właściwych pytań na temat jakości i odtwarzalności naszych ocen, jednocześnie projektując systemy tak, aby je rzetelnie mierzyć. Wdrażaj poręcze i zarządzanie: Twórz i egzekwuj poręcze przed i po generacji, zarządzając nadrzędnym zarządzaniem modelami AI działającymi w ramach wewnętrznych narzędzi i platform. Zwiększ bezpieczeństwo i obserwowalność sztucznej inteligencji: Twórz dedykowane uwierzytelnienia/uprawnienia dla wewnętrznych agentów AI, ustanawiaj potoki głębokiego monitorowania/obserwowalności i definiuj protokoły reagowania na incydenty dla specyficznych dla sztucznej inteligencji anomalie.Weryfikacja i Red Teaming: Prowadź ciągłe działania weryfikacyjne i ćwiczenia Red Teaming, aby proaktywnie identyfikować luki w zabezpieczeniach, natychmiastowe wstrzykiwanie lub nieprzewidywalne zachowania w naszych wewnętrznych wdrożeniach AI.Działaj w AWS: wdrażaj, uruchamiaj i wspieraj usługi bezpieczeństwa o dużej przepustowości i małych opóźnieniach do zastosowań wewnętrznych; dokonać rozsądnych kompromisów w zakresie architektury i kosztów; skutecznie współpracuj z interesariuszami zajmującymi się platformami/technologami/bezpieczeństwem.🧠 Co wnosisz na imprezęSilne przywództwo techniczne: Udokumentowane doświadczenie w kierowaniu inicjatywami technicznymi lub zespołami, zdolne do ustalania wizji technicznej dla złożonych, niejednoznacznych domen.

Głębokie podstawy inżynierii oprogramowania: Starsze/zaawansowane umiejętności w zakresie kompleksowego projektowania bezpiecznych komponentów, dokładnego testowania i dogłębnego analizowania kompromisów w zakresie projektowania systemu, współbieżności i architektury. (preferowany Python). Specjalizacja w ocenie i bezpieczeństwie sztucznej inteligencji: Bardzo krytyczny myśliciel, który rozumie niuanse zachowań LLM.

Musisz czuć się komfortowo podczas sprawdzania jakości wyników sztucznej inteligencji i mieć duże doświadczenie w budowaniu okablowania, aby mierzyć ją w powtarzalny sposób. Nastawienie w zakresie bezpieczeństwa i zarządzania: doświadczenie w modelowaniu zagrożeń, uwierzytelnianiu, tworzeniu zespołów red team lub budowaniu barier dla wewnętrznych systemów, narzędzi lub platform. Doświadczenie w chmurze (AWS): Wygodne uruchamianie usług wewnętrznych, posiadanie niezawodności/skalowalność oraz współpraca z platformą/technologami/partnerami ds. bezpieczeństwa.

Doskonała komunikacja: umiejętność syntezy złożonych systemów bezpieczeństwa i oceny metryki w praktyczne spostrzeżenia zarówno dla interesariuszy technicznych, jak i nietechnicznych.🚀 Jak wygląda sukces Pewność narzędzi wewnętrznych: inżynierowie w firmie Kraken mogą wdrażać nowe autonomiczne modele, umiejętności sztucznej inteligencji i agentów wewnętrznych z całkowitą pewnością, wiedząc, że są związani niezawodnymi barierami bezpieczeństwa i rygorystycznymi ograniczeniami operacyjnymi w naszych wewnętrznych ekosystemach. Wysokiej jakości oceny wewnętrzne: stworzyłeś kulturę i infrastrukturę solidnych, wysoce powtarzalnych wskaźników oceny, które dokładnie odzwierciedlają rzeczywistą wydajność i bezpieczeństwo naszych wewnętrznych narzędzi i wiązek sztucznej inteligencji.Odporna infrastruktura wewnętrzna: bezpieczeństwo sztucznej inteligencji, monitorowanie i reagowanie na incydenty są traktowane jak obywatele pierwszej klasy, co gwarantuje, że wszelkie nieprawidłowe zachowania agentów na naszych wewnętrznych platformach zostaną natychmiast wykryte i złagodzone, zanim będą miały wpływ na szersze operacje.Przywództwo techniczne: Ścisła współpraca między fundacjami sztucznej inteligencji pomaga przyspieszyć bezpieczne wewnętrzne przyjęcie sztucznej inteligencji; aktywnie doradzasz inżynierom i kształtujesz wewnętrzną strategię zarządzania sztuczną inteligencją firmy.⭐️ Punkty dodatkowe Doświadczenie w konkretnych ramach oceny LLM i ram bezpieczeństwa (np. Inspect AI, Ragas, OpenAI Evals, NeMo Guardrails).Doświadczenie w Django i silne wzorce inżynieryjne zaplecza (bezpieczeństwo, wydajność, łatwość konserwacji).Doświadczenie z Datadog w celu zapewnienia złożonej obserwowalności, śledzenia i monitorowania w środowiskach AI.Znajomość podstawowych narzędzi inżynieryjnych AI, takich jak Pydantic AI, LiteLLM lub LangChain.Kraken to certyfikowane Świetne Miejsce Pracy we Francji, Niemczech, Hiszpanii, Japonii, Australii i USA.

W Wielkiej Brytanii jesteśmy jednym z najlepszych miejsc pracy według Glassdoor z wynikiem 4,5, a w Niemczech oceniamy Kununu na 4,7 jako najlepszą firmę. Sprawdź naszą stronę Witamy w dżungli (FR/EN), aby dowiedzieć się więcej o naszych zespołach i kulturze. Czy jesteś gotowy na karierę u nas?

Chcemy mieć pewność, że masz wszystkie narzędzia i środowisko potrzebne do uwolnienia swojego potencjału. Jeśli masz jakieś szczególne zakwaterowanie lub wyjątkowe preferencje, skontaktuj się z nami pod adresem -----, a my zrobimy, co w naszej mocy, aby dostosować proces rozmowy kwalifikacyjnej dla wygody i maksymalnej magii! Badania wykazały, że niektóre grupy ludzi, np. kobiety, mają mniejsze szanse na aplikowanie na stanowisko, jeśli nie spełniają w 100% wymagań stanowiska.

Kimkolwiek jesteś, jeśli podoba Ci się jedna z naszych ofert pracy, zachęcamy Cię do aplikowania, ponieważ możesz być po prostu kandydatem, którego zatrudnimy. W Kraken poszukujemy naprawdę przyzwoitych ludzi, którzy są uczciwi i empatyczni. Nasi ludzie są naszym najmocniejszym atutem, a wyjątkowe umiejętności i perspektywy, jakie wnoszą do zespołu, są siłą napędową naszego sukcesu.

Jako pracodawca zapewniający równe szanse nie dyskryminujemy ze względu na jakąkolwiek chronioną cechę. Rozpatrujemy wszystkich kandydatów bez względu na rasę, kolor skóry, religię, pochodzenie narodowe, wiek, płeć, tożsamość lub ekspresję płciową, orientację seksualną, stan cywilny lub weterana, niepełnosprawność lub jakikolwiek inny status prawnie chroniony. Nasze (i) Informacja o ochronie prywatności kandydatów i kandydatów oraz Informacja o sztucznej inteligencji (AI), (ii) Informacja o ochronie prywatności w witrynie internetowej oraz (iii) Informacja o plikach cookie regulują gromadzenie i wykorzystywanie Twoich danych osobowych w związku z Twoją aplikacją i korzystaniem z naszej witryny internetowej.

Te zasady wyjaśniają, w jaki sposób obchodzimy się z Twoimi danymi i przedstawiają Twoje prawa wynikające z obowiązujących przepisów, w tym między innymi Ogólnego rozporządzenia o ochronie danych (RODO) i kalifornijskiej ustawy o ochronie prywatności konsumentów (CCPA). W zależności od Twojej lokalizacji możesz mieć prawo dostępu do swoich danych, ich poprawiania lub usuwania, sprzeciwu wobec przetwarzania lub wycofania zgody. Aplikując, potwierdzasz, że przeczytałeś, zrozumiałeś i akceptujesz niniejsze warunki.

Czy jesteś gotowy na karierę u nas? Chcemy mieć pewność, że masz odpowiednie narzędzia i środowisko, aby uwolnić swój potencjał. Jeśli masz jakieś prośby o zakwaterowanie, skontaktuj się z nami pod adresem ----- Dołożymy wszelkich starań, aby dostosować ofertę do Twoich potrzeb, abyś czuł się komfortowo, pewnie i jak najlepiej!

Badania wykazały, że niektóre grupy ludzi, np. kobiety, rzadziej aplikują na stanowisko, jeśli nie spełniają w 100% wymagań stanowiska. Kimkolwiek jesteś, jeśli podoba Ci się jedna z naszych ofert pracy, zachęcamy Cię do aplikowania, ponieważ być może to właśnie Ty jesteś kandydatem, którego szukamy! W Kraken tworzymy zespół prawdziwych, uczciwych, empatycznych ludzi.

Nasi ludzie są naszym najmocniejszym atutem, a wyjątkowe umiejętności i perspektywy, jakie wnoszą do zespołu, są siłą napędową naszego sukcesu. Jako pracodawca zapewniający równe szanse nie dyskryminujemy ze względu na jakąkolwiek chronioną cechę. Rozpatrujemy wszystkich kandydatów bez względu na rasę, kolor skóry, religię, pochodzenie narodowe, wiek, płeć, tożsamość lub ekspresję płciową, orientację seksualną, stan cywilny lub weteran, niepełnosprawność lub jakikolwiek inny status prawnie chroniony.*Nasza (i) Informacja o ochronie prywatności kandydatów i kandydatów oraz sztuczna inteligencja (AI), (ii) Informacja o ochronie prywatności w witrynie internetowej oraz (iii) Informacja o plikach cookie regulują gromadzenie i wykorzystywanie danych osobowych w związku z aplikacją i korzystaniem z naszej witryny internetowej.

Te zasady wyjaśniają, w jaki sposób obchodzimy się z Twoimi danymi i przedstawiają Twoje prawa wynikające z obowiązujących przepisów, w tym między innymi Ogólnego rozporządzenia o ochronie danych (RODO) i kalifornijskiej ustawy o ochronie prywatności konsumentów (CCPA). W zależności od Twojej lokalizacji możesz mieć prawo dostępu do swoich danych, ich poprawiania lub usuwania, sprzeciwu wobec przetwarzania lub wycofania zgody. Aplikując, potwierdzasz, że przeczytałeś, zrozumiałeś i akceptujesz niniejsze warunki.

Należy pamiętać, że zgodnie z naszą obecną polityką rekrutacyjną nie możemy zaoferować sponsorowania wizy na to stanowisko; kandydaci muszą mieć prawo do pracy w kraju, do którego aplikują, w momencie składania wniosku.*Znajdź pracę w Wielkiej Brytanii na Arbeitnow