Kierownik ds. inżynierii, wnioskowanie o modelu

O firmie Abridge Firma Abridge została założona w 2018 roku z misją zapewniania głębszego zrozumienia opieki zdrowotnej. Nasza platforma oparta na sztucznej inteligencji została stworzona specjalnie do rozmów medycznych, poprawiając wydajność dokumentacji klinicznej, a jednocześnie umożliwiając lekarzom skupienie się na tym, co najważniejsze - na pacjentach. Nasza technologia klasy korporacyjnej przekształca rozmowy pacjenta z lekarzem w ustrukturyzowane notatki kliniczne w czasie rzeczywistym, z głęboką integracją EMR.

Dzięki technologii Linked Evidence i naszej specjalnie zaprojektowanej, podlegającej audytowi sztucznej inteligencji jesteśmy jedyną firmą, która mapuje podsumowania wygenerowane przez sztuczną inteligencję na podstawie prawdy, pomagając dostawcom szybko zaufać i zweryfikować wyniki. Jako pionierzy generatywnej sztucznej inteligencji w opiece zdrowotnej wyznaczamy standardy branżowe w zakresie odpowiedzialnego wdrażania sztucznej inteligencji w systemach opieki zdrowotnej. Jesteśmy rosnącym zespołem składającym się z praktykujących lekarzy, naukowców zajmujących się sztuczną inteligencją, doktorantów, twórców, technologów i inżynierów pracujących razem, aby wzmacniać ludzi i sprawiać, że opieka nad dziećmi nabiera większego sensu.

Nasze biura znajdują się w Mission District w San Francisco, dzielnicy SoHo w Nowym Jorku i East Liberty w Pittsburghu. Rola Nasze generatywne produkty oparte na sztucznej inteligencji zmieniają praktykę medyczną, a systemy wnioskowania, które je obsługują, muszą być szybkie, niezawodne i światowej klasy. Poszukujemy menedżera ds. inżynierii, który będzie kierować i rozwijać nasz zespół ds. wnioskowania o modelach.

Zespół Inference odpowiada za kompleksowy nadzór techniczny nad obsługą naszych modeli: od projektowania infrastruktury o małych opóźnieniach i dużej przepustowości po przesuwanie granic technik obsługi LLM. Będziesz kierować wysokowydajnym zespołem inżynierów zajmujących się wnioskowaniem AI, ściśle współpracować z ML Research i szerszą platformą AI oraz zapewniać, że systemy stanowiące podstawę każdej interakcji lekarza działają z najwyższą wydajnością i niezawodnością. Co będziesz robić - Kierować i rozwijać wysokowydajny zespół inżynierów wnioskowania AI, skupionych na budowaniu i skalowaniu infrastruktury dla produktów i interfejsów API Abridge - Kierować technicznym systemem naszych systemów wnioskowania - podejmować kluczowe decyzje dotyczące przetwarzania wsadowego, przepustowości, opóźnień i wykorzystania procesora graficznego - Architektować i skalować infrastrukturę wnioskowania w celu zapewnienia niezawodności, wydajności i obserwowalności; prowadź reakcję na incydenty - Wykonuj testy porównawcze i eliminuj wąskie gardła w całym stosie wnioskowania - Współpracuj z zespołami ML Research w zakresie optymalizacji modeli, kwantyzacji i wdrażania - Opracuj interfejsy API do wnioskowania AI wykorzystywane zarówno przez zespoły wewnętrzne, jak i klientów zewnętrznych - Rekrutuj, mentoruj i rozwijaj talenty inżynieryjne; ustanawiaj procesy zespołowe, standardy inżynieryjne i doskonałość operacyjną - Ściśle współpracuj z zespołami zajmującymi się platformą GenAI, danymi i produktami, aby planować i realizować projekty, które będą miały bezpośredni wpływ na klinicystów i pacjentów.

Co przyniesiesz - Ponad 5 lat doświadczenia inżynieryjnego, w tym ponad 1 rok na stanowisku kierowniczym technicznym lub kierowniczym - Głębokie, praktyczne doświadczenie z systemami ML i frameworkami wnioskowania (np. PyTorch, TensorRT, vLLM, TensorFlow) - Silne zrozumienie architektury LLM (np.

Multi-Head Attention, Multi/Grouped-

Query Attention i typowe komponenty transformatora) - Doświadczenie w optymalizacji wnioskowania (np. grupowanie wsadowe, kwantyzacja, fuzja jądra, FlashAttention) - Znajomość charakterystyki GPU, modeli linii dachu i analizy wydajności - Doświadczenie we wdrażaniu niezawodnych, rozproszonych systemów czasu rzeczywistego na dużą skalę - Doświadczenie ze strategiami równoległości: równoległość tensorów, równoległość potoków, równoległość ekspercka - Umiejętności w zakresie zatrudniania i mentoringu, z udokumentowanym doświadczeniem w zakresie pomaganie inżynierom w rozwijaniu umiejętności i kariery zawodowej - Dobra komunikacja techniczna i umiejętności współpracy międzyfunkcyjnej - Umiejętność przekazywania konstruktywnych informacji zwrotnych na temat projektów technicznych i przeglądów kodu - Dobrze prosperował w szybko rozwijającym się startupie i wie, jak działać pilnie i w skupieniu Dodatkowa premia - Znajomość infrastruktury szkoleniowej i obciążeń RL - Umiejętność budowania bezpiecznych, zgodnych systemów na głównych platformach chmurowych (preferowane GCP, mile widziane doświadczenie AWS) - Doświadczenie z Kubernetes i orkiestracją kontenerów na dużą skalę - Opublikowane prace lub wkład w badania nad optymalizacją wnioskowania Dlaczego warto pracować w Abridge? W Abridge przekształcamy doświadczenia w świadczeniu opieki zdrowotnej za pomocą generatywnej sztucznej inteligencji, umożliwiając klinicystom i pacjentom głębszą i bardziej znaczącą komunikację. Nasza misja jest jasna: zapewniać głębsze zrozumienie w opiece zdrowotnej.

Wprowadzamy prawdziwe, trwałe zmiany, przetwarzając miliony rozmów medycznych każdego miesiąca. Dołączenie do Abridge oznacza wejście do szybko rozwijającego się startupu, w którym Twój wkład naprawdę robi różnicę. Nasza kultura wymaga wyjątkowej odpowiedzialności - każdy pracownik może (i oczekuje się, że będzie) wywierał wpływ na naszych klientów i naszą firmę.

Poza indywidualnym wpływem, będziesz miał okazję pracować z zespołem ciekawych świata ludzi osiągających wysokie wyniki we wspierającym środowisku, w którym dzieli się sukcesem, ciągły rozwój, a informacje zwrotne napędzają postęp. W Abridge nie chodzi tylko o to, co robimy - ale także o to, jak to robimy. Każda decyzja opiera się na empatii i zawsze stawia na pierwszym miejscu potrzeby lekarzy i pacjentów.

Zależy nam na wspieraniu Twojego rozwoju, zarówno zawodowego, jak i osobistego. Niezależnie od tego, czy chodzi o elastyczne godziny pracy, kulturę włączającą, czy możliwości ciągłego uczenia się, jesteśmy tutaj, aby pomóc Ci rozwijać się i wykonywać najlepszą pracę w swoim życiu. Jeśli jesteś gotowy, aby wywrzeć znaczący wpływ wraz z ludźmi z pasją, którym bardzo zależy na tym, co robią, Abridge jest miejscem dla Ciebie.

Jak dbamy o Abridgers: - Hojny czas wolny: 14 płatnych urlopów, elastyczna przystawka PTO dla pracowników etatowych i naliczony czas wolny dla pracowników godzinowych - Kompleksowe plany zdrowotne: ubezpieczenie medyczne, stomatologiczne i okulistyczne dla wszystkich pracowników pełnoetatowych i ich rodzin. - Hojna składka na HSA: Jeśli wybierzesz plan zdrowotny podlegający wysokiemu odliczeniu, Abridge wpłaca miesięczne składki na Twój HSA. - Płatny urlop rodzicielski: Obfity płatny urlop rodzicielski dla wszystkich pracowników zatrudnionych w pełnym wymiarze czasu pracy. - Korzyści z formowania rodziny: Zasoby i wsparcie finansowe, które pomogą Ci zbudować rodzinę. - Dopasowanie 401(k): Dopasowanie wkładu, które pomoże Ci inwestować w Twoją przyszłość. - Dodatek na urządzenie osobiste: wolne od podatku środki na korzystanie z urządzenia osobistego. - Korzyści przed opodatkowaniem: dostęp do elastycznych kont wydatków (FSA) i świadczeń dla osób dojeżdżających do pracy. - Portfel Lifestyle: miesięczne składki na fitness, rozwój zawodowy, coworking i nie tylko. - Wsparcie w zakresie zdrowia psychicznego: dedykowany dostęp do terapii i coachingu, które pomogą Ci osiągnąć swoje cele. - Urlop naukowy: płatny urlop naukowy po 5 latach zatrudnienia. - Wynagrodzenie i kapitał własny: Konkurencyjne wynagrodzenie i dotacje kapitałowe dla pracowników pełnoetatowych. - ... i wiele więcej! Pracodawca zapewniający równe szanse Abridge jest pracodawcą zapewniającym równe szanse i traktuje wszystkich wykwalifikowanych kandydatów jednakowo, bez względu na rasę, kolor skóry, religię, płeć, orientację seksualną, tożsamość płciową, pochodzenie narodowe, status weterana czy niepełnosprawność. Dokładamy wszelkich starań, aby zapewnić rozsądne udogodnienia podczas całego procesu rozmowy kwalifikacyjnej.

Po przesłaniu aplikacji poinformujemy Cię o szczegółach ubiegania się o zakwaterowanie na potrzeby rozmowy kwalifikacyjnej, przeprowadzenia oceny lub innego udziału w procesie selekcji. Zachowaj bezpieczeństwo - chroń się przed oszustwami rekrutacyjnymi Wiemy o osobach i podmiotach podających się za osoby rekrutujące i/lub menedżerów ds. rekrutacji firmy Abridge. Abridge nigdy nie będzie prosić o informacje finansowe lub dotyczące płatności, ani o dane osobowe, takie jak numer konta bankowego lub numer ubezpieczenia społecznego, podczas ubiegania się o pracę lub rozmowy kwalifikacyjnej.

Wszelkie wiadomości e-mail od zespołu rekrutacyjnego Abridge będą wysyłane z adresu e-mail @abridge.com">abridge.com. Więcej informacji na temat ochrony przed tego typu oszustwami można znaleźć w tym artykule. Prosimy zachować ostrożność i zaprzestać komunikacji, jeśli coś wyda się podejrzane w związku z Twoimi interakcjami.

Zakres wynagrodzenia: 220 tys. USD - 270 tys. USD Aplikuj bezpośrednio na RemoteJobs.org: https://remotejobs.org/remote-jobs/engineering-manager-model-inference-abridge