22 noyabr 2024, cümə Bakı, 14°C
IMG-LOGO
  • 22 noyabr 2024, cümə 03:33:05 Bakı , 14°C
Ana səhifə Xəbərlər Ətraflı

Xəbər lenti:

Alimlərdən xəbərdarlıq: Süni intellekt insan həyatını təhdid edə bilər

19-10-2024
IMG

Yeni bir araşdırma süni intellekt sistemlərində böyük bir təhlükəsizlik səhvinin insan həyatını təhdid edə biləcəyini irəli sürüb. Tədqiqatçılar qərar qəbul etmək üçün süni intellektdən istifadə edən robot sistemlərin xarab ola biləcəyi və təhlükəsiz olmadığı barədə xəbərdarlıq ediblər. Yeni tədqiqat ChatGPT kimi sistemləri dəstəkləyən geniş dil modeli texnologiyalarını araşdırıb. Oxşar texnologiyalar robot texnikasında real dünya maşınlarının qərarlarını idarə etmək üçün istifadə olunur.

Lakin Pensilvaniya Universitetinin yeni araşdırması göstərir ki, bu texnologiyaların zəif tərəfləri var ki, hakerlər sistemlərdən gözlənilmədən istifadə edə bilərlər.Universitetin professoru Corc Pappas "Bizim işimiz göstərir ki, böyük dil modelləri bu nöqtədə fiziki dünyaya inteqrasiya etmək üçün kifayət qədər təhlükəsiz deyil"-deyib.

Professor Pappas və onun həmkarları sübut ediblər ki, hazırda istifadə olunan bir sıra sistemlərdə təhlükəsizlik tədbirlərindən yan keçmək mümkündür. Məqaləni yazan tədqiqatçılar zəiflikləri aşkar etmək və qarşısını almaq üçün bu sistemlərin yaradıcıları ilə işləyirlər. Bununla belə, onlar vurğulayıblar ki, bunun üçün xüsusi zəiflikləri bağlamaqdansa, sistemlərin necə qurulduğuna tam yenidən baxılması lazımdır. Corc Pappasın fikrincə, süni intellektlə dəstəklənən robotları real dünyada istifadə etməzdən əvvəl onların struktur problemləri həll edilməlidir. Əslində bu  tədqiqat da robot sistemlərin yalnız sosial normalara uyğun hərəkətləri yerinə yetirə bilməsini  təmin edən yoxlama və təsdiqləmə çərçivəsi yaratmağa yönəlib.

Paylaş:

Kateqoriyalar

Eyni kateqoriyalı xəbərlər