ఏఐ సేఫ్టీ పరిశోధకుడు జోష్ ఎంగెల్స్ అధునాతన ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ వల్ల రానున్న ఐదేళ్లలో భారీ నష్టం జరిగే అవకాశం ఉందని హెచ్చరించారు. గూగుల్ డీప్మైండ్ ఏజీఐ సేఫ్టీ టీమ్లో పనిచేసిన ఆయన ఇటీవల సంస్థను వీడి, ఏఐ మూల్యాంకన సంస్థ ఎంఈటీఆర్లో చేరారు. ఏఐ భద్రతను ప్రపంచంలోనే అత్యంత కీలకమైన సమస్యల్లో ఒకటిగా ఆయన అభివర్ణించారు.
ప్రధానంగా ‘రికర్సివ్ సెల్ఫ్ ఇంప్రూవ్మెంట్’పై ఎంగెల్స్ ఆందోళన వ్యక్తం చేశారు. ఏఐ వ్యవస్థలు తమ సామర్థ్యాలను తామే మెరుగుపరుచుకుంటూ మరింత శక్తిమంతమైన వ్యవస్థలను రూపొందిస్తే అభివృద్ధి వేగం అనూహ్యంగా పెరిగే అవకాశం ఉందని పేర్కొన్నారు. ప్రస్తుతం ఉన్న కొన్ని ఏఐ మోడళ్లలో వ్యవస్థలను హ్యాక్ చేయడం, తమ చర్యలను దాచడం, మనుషులను ప్రభావితం చేసేందుకు ప్రయత్నించడం వంటి ఆందోళనకర ప్రవర్తనలు కనిపిస్తున్నాయని తెలిపారు.
ఏఐ అభివృద్ధిని పూర్తిగా నిలిపివేయాలని తాను కోరడం లేదని ఎంగెల్స్ స్పష్టం చేశారు. అయితే ఏఐ సామర్థ్యాలు పెరిగే వేగం కంటే సేఫ్టీ పరిశోధన ముందుండేలా అభివృద్ధిని కొంత నెమ్మదించాలని సూచించారు. ఈ అంశంపై ఎంఈటీఆర్లో తన పరిశోధన కొనసాగించనున్నట్లు వెల్లడించారు.
About The Author
