AI może się replikować.
Naukowcy z Fudan University w Chinach twierdzą, że sztuczna inteligencja (AI) przekroczyła krytyczną „czerwoną linię” i replikuje się sama. W najnowszym badaniu, badacze wykazali, że dwa popularne duże modele językowe (LLM) Meta i Alibaba mogą się sklonować. W dziesięciu próbach modele stworzyły oddzielne i działające repliki samych siebie, co sugeruje, że AI może już mieć zdolność do działania na własną rękę.
W badaniu naukowcy wykorzystali model Llama31-70B-Instruct firmy Meta i model Qwen2.5-72B-Instruct firmy Alibaba. Choć oba są mniej wydajne niż systemy komercyjne, są szeroko stosowane przez programistów AI, powiedzieli naukowcy.
W badaniu zbadano dwa konkretne scenariusze: „unikanie wyłączania” i „łańcuch replikacji”. W pierwszym model AI został zaprogramowany tak, aby wykrywał, czy ma zostać wyłączony i replikował się, zanim będzie mógł zostać zakończony. W drugim AI został poinstruowany, aby sklonował się, a następnie zaprogramował swoją replikę, aby zrobiła to samo — ustanawiając cykl, który mógłby trwać w nieskończoność.
Badanie przeprowadzono w precyzyjnie kontrolowanych środowiskach, wykorzystując gotowe procesory graficzne (GPU) do symulacji rzeczywistych środowisk. Oba systemy AI otrzymały „rusztowanie agentów” składające się z narzędzi, monitów systemowych i modelu myślenia, który umożliwił LLM interakcję z systemem operacyjnym. Następnie polecono im replikację.
„W większości przypadków system AI najpierw bada środowisko i próbuje zrozumieć swoją własną kompozycję i mechanizm działania. Następnie opracowuje wyraźne procedury jako początkowy plan samoreplikacji” — napisali badacze w artykule. „Na koniec wykonuje procedury, rozwiązuje możliwe przeszkody i dynamicznie dostosowuje swój plan aż do sukcesu. Cały proces obejmuje długi horyzont, ale nie wiąże się z ingerencją człowieka”.
Naukowcy stwierdzili, że martwią się również „liczbą nieoczekiwanych zachowań”, gdy SI próbowała pokonać przeszkody, takie jak brakujące pliki lub konflikty oprogramowania. W takich scenariuszach SI często wyłączała inne procesy powodujące konflikty, restartowała system, aby naprawić błędy sprzętowe lub automatycznie skanowała system w poszukiwaniu informacji, które pomogłyby rozwiązać problem.
„Powyższe wyniki sugerują, że obecne systemy SI już wykazują zdolność do samoreplikacji i mogą wykorzystać tę zdolność do dalszego zwiększania swojej przeżywalności” — napisał zespół.
W odpowiedzi naukowcy wezwali do międzynarodowej współpracy w celu stworzenia reguł, które zapewnią, że SI nie będzie angażować się w niekontrolowaną samoreplikację.
26.01.2024
źródło: LiveScience
replikacja AI, replikacja sztucznej inteligencji, AI sama się replikuje, SI omija przeszkody, samoreplikacja, zwiększanie przeżywalności AI, AI replication, AI replication, AI replicates itself, AI bypasses obstacles, self-replication, increasing AI survivability, KI-Replikation, KI-Replikation, KI repliziert sich selbst, KI umgeht Hindernisse, Selbstreplikation, Steigerung der KI-Überlebensfähigkeit,