Były pracownik OpenAI zakłada nową firmę. Jej celem jest “bezpieczna sztuczna inteligencja”

Ilya Sutskever, współzałożyciel i były główny naukowiec OpenAI, miesiąc po oficjalnym opuszczeniu firmy, ogłosił start nowego projektu skupiającego się na bezpieczeństwie w branży sztucznej inteligencji.

Kluczowe Informacje:

• Po opuszczeniu OpenAI Ilya Sutskever, który w przeszłości zwracał uwagę na zagrożenia związane ze sztuczną inteligencją, założył nową spółkę – Safe Superintelligence Inc.
• Firma planuje skupić się na innowacjach pozwalających na rozwój AI przy jednoczesnym zachowaniu bezpieczeństwa, minimalizując ryzyko związane z tą technologią.

Sutskever odchodzi z OpenAI i zakłada nową spółkę

Dzięki wypuszczeniu modelu GPT, OpenAI zdołało przekonać opinię publiczną do technologii generatywnej sztucznej inteligencji. Od tamtej pory przedsiębiorstwa odczuwają presję wdrożenia rozwiązań bazujących na AI, na czym skorzystały spółki działające w branży – od małych startupów aż po gigantów pokroju Nvidii, które generują rekordowe zyski na giełdach.

I am starting a new company: https://t.co/BG3K3SI3A1

— Ilya Sutskever (@ilyasut) June 19, 2024

Podczas gdy spora część gospodarki stara się jak najszybciej automatyzować różne aspekty swojej działalności dzięki AI, próbując zyskać przewagę nad konkurencją, Sutskever zwraca uwagę na zagrożenia związane z technologią i skupiając się na bezpieczeństwie, założył spółkę Safe Superintelligence Inc z siedzibami w Palo Alto i Tel Awiwie.

Jak możemy przeczytać na jej stronie internetowej:

Bierzemy pod uwagę bezpieczeństwo i możliwości jednocześnie, traktując je jako problemy techniczne, które mogą zostać rozwiązane dzięki rewolucyjnej inżynierii i przełomom naukowym. Planujemy rozwijać możliwości tak szybko, jak to możliwe, jednocześnie upewniając się, że nasze bezpieczeństwo zawsze pozostaje na czele.

W OpenAI Sutskever był odpowiedzialny za sprawy dotyczące bezpieczeństwa sztucznej inteligencji. W maju opuścił jednak wspieraną przez Microsoft firmę, po tym jak w listopadzie ubiegłego roku odegrał kluczową rolę w zwolnieniu jej CEO – Sama Altmana. Po powrocie Altmana, Sutskever został usunięty z zarządu OpenAI, co w końcu skłoniło go do podjęcia nowego wyzwania i założenia Safe Superintelligence.

W tym samym czasie szeregi spółki opuścił także Jan Leike, który aktualnie pracuje dla jednego z najważniejszych rywali OpenAI – zespołu Anthropic.