Microsoft LongNet: AI, które przeczyta CAŁY internet!

Microsoft LongNet: Miliard tokenów pod kontrolą

Microsoft rozwinął nowy model o nazwie LongNet, który może obsłużyć aż do jednego miliarda tokenów na raz, znacznie przewyższając możliwości wcześniejszych modeli, takich jak GPT-3 i GPT-4.

Innowacje w LongNet: Dilated Attention

LongNet wykorzystuje proces nazywany ‘dilated attention’. Pozwala on modelowi przyswajać i rozumieć duże sekwencje informacji w sposób analogiczny do tego, jak mózg ludzki przetwarza dane wizualne. To możliwe dzięki tworzeniu rzadkich reprezentacji dużych sekwencji informacji.

Przyszłość AI: Wizja superinteligencji

Dokument opisujący powstanie tego modelu sugeruje dalszy rozwój AI.

Twórcy zwiastują modele, które mogą czytać i zrozumieć cały internet na raz, co stanowi krok w kierunku superinteligencji cyfrowej.

OpenAI Super Alignment: Dążenie do dostosowania superinteligencji

OpenAI również ogłosiło swoją inicjatywę ‘super alignment’, poświęconą dostosowaniu superinteligencji, choć podkreśla się, że to rozwiązanie jest niezbędne, ale niepełne.

Przełom Microsoft LongNet: Bezprecedensowy postęp w AI

Zdolność LongNet do czytania miliarda tokenów odpowiada doświadczeniu połowy życia ludzkiego. Szacuje się, że w trakcie swojego życia, przeciętny człowiek przyswaja w przeliczeniu około 2-3 miliardów tokenów.

LongNet przyswaja wręcz niewiarygodną ilość informacji!

Photo by Mohamed Nohassi on Unsplash