Inżynier wydajności uczenia maszynowego

<p>Do naszego rosnącego zespołu ML poszukujemy inżyniera z doświadczeniem w programowaniu i optymalizacji systemów niskiego poziomu. </p> <p><a href="https://www.janestreet.com/join-jane-street/machine-learning/">Uczenie maszynowe</a> to kluczowy filar globalnej działalności Jane Street. Nasze stale rozwijające się środowisko handlowe służy jako wyjątkowa platforma umożliwiająca szybkie przesyłanie informacji zwrotnych do eksperymentów z uczeniem maszynowym, umożliwiająca nam wdrażanie nowych pomysłów przy stosunkowo niewielkich tarciach.</p> <p>Twoja rola polega tutaj na optymalizacji wydajności naszych modeli - zarówno uczenia, jak i wnioskowania. Zależy nam na wydajnym szkoleniu na dużą skalę, wnioskowaniu o niskim opóźnieniu w systemach czasu rzeczywistego i wnioskowaniu o dużej przepustowości w badaniach.

Częścią tego jest ulepszenie prostej CUDA, ale interesująca część wymaga podejścia obejmującego całe systemy, w tym systemy pamięci masowej, sieci oraz kwestie na poziomie hosta i procesora graficznego. Patrząc bliżej, chcemy również mieć pewność, że nasza platforma ma sens nawet na najniższym poziomie - czy cała ta przepustowość jest rzeczywiście dobra? Czy ładowanie tego wektora z pamięci podręcznej L2 naprawdę zajmuje tak dużo czasu?</p> <p>Jeśli nigdy nie myślałeś o karierze w finansach, jesteś w dobrym towarzystwie.

Wielu z nas było w takiej samej sytuacji przed podjęciem pracy tutaj. Jeśli masz dociekliwy umysł i pasję do rozwiązywania interesujących problemów, mamy przeczucie, że będziesz pasować. </p> <p>Nie ma stałego zestawu umiejętności, ale oto kilka rzeczy, których szukamy:</p> <ul> <li>Zrozumienie nowoczesnych technik i zestawów narzędzi ML</li> <li>Doświadczenie i wiedza o systemach wymagana do kompleksowego debugowania wydajności przebiegu szkoleniowego</li> <li>Znajomość niskiego poziomu GPU w zakresie PTX, SASS, warps, grupy kooperacyjne, rdzenie Tensor i hierarchia pamięci</li> <li>Doświadczenie w debugowaniu i optymalizacji przy użyciu narzędzi takich jak CUDA GDB, NSight Systems, NSight Computesight-systems i nsight-compute</li> <li>Znajomość bibliotek Triton, CUTLASS, CUB, Thrust, cuDNN i cuBLAS</li> <li>Intuicja dotycząca charakterystyki opóźnienia i przepustowości wykresu CUDA uruchamianie, arytmetyka rdzenia tensora, synchronizacja na poziomie warp i asynchroniczne ładowanie pamięci</li> <li>Podstawowe informacje dotyczące Infiniband, RoCE, GPUDirect, PXN, optymalizacji kolei i NVLink oraz jak używać tych technologii sieciowych do łączenia klastrów GPU</li> <li>Zrozumienie zbiorowych algorytmów wspierających rozproszone szkolenie GPU w NCCL lub MPI</li> <li>Pomysłowe podejście i chęć zadawania trudnych pytań na temat tego, czy jesteśmy stosując właściwe podejście i używając odpowiednich narzędzi</li> <li>Płynna znajomość języka angielskiego</li> </ul> <p> </p> <p><em>Jeśli reprezentujesz agencję rekrutacyjną i chcesz nawiązać z nami współpracę, skontaktuj się z </em><a ----------Znajdź pracę w Wielkiej Brytanii w serwisie Arbeitnow