OpenAI tworzy zespół do walki z wyzwaniami superinteligencji

OpenAI niedawno ogłosiło powstanie nowego zespołu specjalistów. Jego zadaniem będzie sprostanie wyzwaniu związanemu z tzw. “superinteligencją”. ty mianem nazywamy przyszłe systemy AI, które będą znacznie inteligentniejsze od ludzi.

Nowy zespół w OpenAI

Zespół, którego współliderami są Ilya Sutskever i Jan Leike, skupia się na poszukiwaniu naukowych i technicznych przełomów, które zapewnią bezpieczną kontrolę nad systemami AI. Te systemy mogą przynieść niezrównany postęp, ale mogą również okazać się niebezpieczne. Zagrożenia mogą spowodować potencjalnie niezamierzone konsekwencje dla ludzkości.

Zobacz też: Sam Altman z OpenAI wzywa do regulacji sztucznej inteligencji

Ambitne cele

Celem nowego zespołu jest stworzenie “pierwszego automatycznego badacza zgodności” o zdolnościach na poziomie człowieka. Zespół planuje “iteracyjne dostosowywanie superinteligencji” przy użyciu “ogromnych ilości obliczeń”. W ciągu zaledwie czterech lat rozwiązać podstawowe techniczne wyzwania związane z dostosowaniem superinteligencji. OpenAI przeznacza na ten cel 20% dzisiejszej zabezpieczonej mocy obliczeniowej.

Przeczytaj także: Czy brak mocy obliczeniowej zahamuje rozwój OpenAI?

Krytyka i plany na przyszłość

Ostatnio rosła krytyka, że dystopie związane z wyginięciem przez super-AI są zaprojektowane tak, aby odwrócić uwagę od obecnych zagrożeń związanych z AI. Mimo to, zespół planuje rozwijać skalowalną metodę szkolenia, walidować wynikowy model i testować swoją metodologię pod kątem wytrzymałości. Planują skupić się na skalowalnym monitoringu i uogólnieniu, które mogą pomóc dostarczyć sygnał szkoleniowy dla zadań, które są trudne do oceny przez ludzi.

Przeczytaj także: UE wzywa do oznaczania treści generowanych przez AI

Współpraca i otwartość

Praca nowego zespołu będzie uzupełniać trwające projekty w OpenAI mające na celu poprawę bezpieczeństwa obecnych modeli i zrozumienie oraz złagodzenie innych ryzyk związanych z AI, takich jak nadużycia, zakłócenia gospodarcze, dezinformacja, uprzedzenia i dyskryminacja oraz uzależnienie i zależność. OpenAI obiecuje “szeroko dzielić się owocami tego wysiłku” i szuka badaczy i inżynierów, którzy chcieliby dołączyć i wspólnymi siłami rozwijać tę ideę.

Źródło: OpenAi

Photo by ZHENYU LUO on Unsplash