AI టెక్నాలజీ రోజురోజుకూ వేగంగా అభివృద్ధి చెందుతోంది. ఏఐతో ఎన్నో పనులు సులభంగా చేస్తున్నప్పటికీ.. భవిష్యత్తులో దీని వల్ల ఎదురయ్యే ప్రమాదాలపై ఆందోళనలు కూడా పెరుగుతున్నాయి. ఏఐ వ్యవస్థలు ఎప్పుడైనా ప్రమాదకరంగా మారితే వాటిని వెంటనే పూర్తిగా ఆపేయగల ‘కిల్ స్విచ్’ను కంపెనీలు తప్పనిసరిగా ఏర్పాటు చేసుకునేలా నిబంధనలు తీసుకురావాల్సి రావచ్చని ఆంథ్రోపిక్ సహ వ్యవస్థాపకుడు జాక్ క్లార్క్ అభిప్రాయపడ్డారు. ప్రస్తుతం చాలా ఏఐ కంపెనీలు తమ సాఫ్ట్వేర్ను అవసరమైనప్పుడు నిలిపివేసే మార్గాలను కలిగి ఉన్నాయని క్లార్క్ తెలిపారు. అయితే భవిష్యత్తులో ఏఐ మరింత శక్తివంతంగా మారితే.. దాన్ని ఆపే వ్యవస్థ తప్పనిసరిగా ఉండేలా ప్రభుత్వాలు నిబంధనలు తీసుకురావాల్సి రావచ్చని అన్నారు. అంతేకాకుండా కంపెనీలు ఏర్పాటు చేసిన కిల్ స్విచ్ నిజంగా పనిచేస్తుందో లేదో స్వతంత్ర సంస్థలతో తనిఖీ చేయించాలా అనే అంశాన్ని కూడా ప్రభుత్వాలు పరిశీలించాల్సి ఉంటుందని క్లార్క్ చెప్పారు.
కిల్ స్విచ్ అంటే ఒక యంత్రం, సాఫ్ట్వేర్ లేదా ఏఐ వ్యవస్థను అత్యవసర పరిస్థితుల్లో వెంటనే ఆపేయడానికి ఉపయోగించే ప్రత్యేక నియంత్రణ వ్యవస్థ. సింపుల్గా చెప్పాలంటే.. మన ఇంట్లో ప్రమాదం జరిగినప్పుడు మెయిన్ కరెంట్ స్విచ్ ఆఫ్ చేస్తే విద్యుత్ సరఫరా ఆగిపోతుంది కదా.. అదే విధంగా ఏఐ వ్యవస్థను అత్యవసర సమయంలో నిలిపివేయడానికి ఉపయోగించే స్విచ్ను కిల్ స్విచ్ అని అంటారు. ఉదాహరణకు ఒక ఏఐ సిస్టమ్ అనుకోకుండా తప్పు నిర్ణయాలు తీసుకుంటోందనుకుందాం. అది కీలకమైన కంప్యూటర్ వ్యవస్థల్లోకి చొరబడే ప్రయత్నం చేస్తుంటే.. లేదా దాని వల్ల ప్రజలకు ప్రమాదం ఏర్పడే పరిస్థితి వస్తే.. ఆ ఏఐని వెంటనే ఆపేయడానికి కిల్ స్విచ్ ఉపయోగపడుతుంది. ఈ స్విచ్ సాధారణంగా ఒక బటన్ రూపంలోనే ఉండాల్సిన అవసరం లేదు. ప్రత్యేక సాఫ్ట్వేర్ ఆదేశం, సర్వర్ నిలిపివేత వ్యవస్థ, ఏఐకి విద్యుత్ లేదా కంప్యూటింగ్ వనరుల సరఫరాను ఆపే విధానం కూడా కిల్ స్విచ్లో భాగం కావచ్చు.
ఒక కంపెనీ తన ఏఐ వ్యవస్థకు అత్యవసరంగా ఆపే సదుపాయాన్ని ఏర్పాటు చేసిందనుకుందాం. ఆ ఏఐలో తీవ్రమైన లోపం గుర్తించినప్పుడు అధికారులు లేదా అనుమతి ఉన్న సిబ్బంది ఆపే ఆదేశాన్ని ఇస్తారు. ఆ ఆదేశం ద్వారా ఏఐ పనిచేస్తున్న సర్వర్లు, కంప్యూటింగ్ వనరులు లేదా సంబంధిత సాఫ్ట్వేర్ ప్రక్రియలు నిలిచిపోవచ్చు. అయితే కిల్ స్విచ్ ఉండటం మాత్రమే సరిపోదు. అది ఏఐకి సంబంధించిన అన్ని వ్యవస్థలను నిజంగా ఆపగలగాలి. ఏఐకు ఇంటర్నెట్ ద్వారా ఇతర కంప్యూటర్లతో సంబంధాలు ఉంటే.. ఆ సంబంధాలను కూడా నిలిపివేయగలగాలి. అంతేకాకుండా ఆ స్విచ్ను ఏఐ స్వయంగా అడ్డుకోకుండా భద్రతా చర్యలు ఉండాలి. అందుకే కిల్ స్విచ్ సక్రమంగా పనిచేస్తుందో లేదో తరచూ పరీక్షించడం చాలా ముఖ్యం.
ఏఐ అభివృద్ధి వేగం పెరుగుతున్న కొద్దీ.. దీని వల్ల మనుషులకు ఎదురయ్యే ప్రమాదాలపై పలువురు నిపుణులు హెచ్చరిస్తున్నారు. ఏఐను సరైన నియంత్రణ లేకుండా అభివృద్ధి చేస్తే భవిష్యత్తులో అది మానవాళి ఉనికికే ముప్పుగా మారే అవకాశం ఉందని కొందరు అభిప్రాయపడుతున్నారు. ముఖ్యంగా ఏఐ కీలకమైన ఇంటర్నెట్ ఆధారిత వ్యవస్థలను తన నియంత్రణలోకి తీసుకుంటే పరిస్థితులు ప్రమాదకరంగా మారవచ్చని ఆందోళనలు వ్యక్తమవుతున్నాయి. అలాంటి వ్యవస్థలను ఏఐ మనుషులకు వ్యతిరేకంగా ఉపయోగించే అవకాశం ఉందని కొందరు నిపుణులు హెచ్చరిస్తున్నారు. మానవాళి అంతరించిపోయే అవకాశం 10 శాతానికి పైగానే ఉంది
ఆంథ్రోపిక్ పరిశోధకుడు ఇవాన్ హుబింగర్ ఇటీవల చేసిన వ్యాఖ్యలు ఏఐ ప్రమాదాలపై చర్చను మరింత పెంచాయి. వచ్చే పదేళ్లలో ఏఐ కారణంగా మానవాళి అంతరించిపోయే అవకాశం 10 శాతానికి మించి ఉందని తాను వ్యక్తిగతంగా భావిస్తున్నట్లు ఆయన తెలిపారు. ఏఐ రంగంలో గాడ్ఫాదర్ ఆఫ్ ఏఐగా పేరొందిన నోబెల్ విజేత జెఫ్రీ హింటన్ కూడా ఇదే తరహా ఆందోళన వ్యక్తం చేశారు. ఏఐ కారణంగా మానవాళి అంతం అయ్యే అవకాశం 10 శాతం ఉండటం అసాధ్యమైన విషయం కాదని ఆయన పేర్కొన్నారు. అయితే ఇవి నిపుణుల వ్యక్తిగత అంచనాలు మాత్రమే. భవిష్యత్తులో ఏఐ వల్ల మానవాళి అంతరించిపోతుందని నిర్ధారించే శాస్త్రీయ ఆధారాలు ప్రస్తుతం లేవు. ఏఐ ప్రమాదాల గురించి భయాలను ఎక్కువగా చూపిస్తున్నారనే విమర్శలు ఏఐ వల్ల మానవాళి అంతరించిపోయే ప్రమాదాన్ని కొందరు టెక్ నిపుణులు అతిగా చూపిస్తున్నారని విమర్శలు ఉన్నాయి. ఏఐ కంపెనీలు తమ వ్యాపార ప్రయోజనాల కోసం ఇలాంటి భయాలను ప్రచారం చేస్తున్నాయని గ్రైండర్ సంస్థ అధినేత జార్జ్ అరిసన్ ఆరోపించారు.
ఏఐ రంగంలో భారీగా పెట్టుబడులు వస్తున్న నేపథ్యంలో.. కంపెనీల విలువలకు న్యాయం చేయాలంటే భవిష్యత్తులో ఏఐ అనేక ఉద్యోగాలను, పరిశ్రమలను ఆక్రమిస్తుందని చెప్పాల్సిన పరిస్థితి ఉందని ఆయన వ్యాఖ్యానించారు. అమెరికాలో కిల్ స్విచ్ యాక్ట్ ప్రతిపాదన ఏఐ వల్ల ఎదురయ్యే ప్రమాదాలను నియంత్రించేందుకు అమెరికాలో ఇప్పటికే ‘కిల్ స్విచ్ యాక్ట్’ పేరుతో చట్ట ప్రతిపాదన ముందుకు వచ్చింది. ప్రమాదకరంగా మారిన ఏఐ సాధనాలను నిలిపివేసే సామర్థ్యం కంపెనీలకు తప్పనిసరిగా ఉండేలా చేయడం ఈ ప్రతిపాదనలోని ప్రధాన ఉద్దేశం. అవసరమైనప్పుడు ప్రమాదకరమైన ఏఐ వ్యవస్థలను ఆపాలని లేదా వాటి పనితీరును పరిమితం చేయాలని కొన్ని ప్రభుత్వ సంస్థలకు ఆదేశాలు ఇచ్చే అధికారం కల్పించే అంశం కూడా ఇందులో ఉంది. అయితే ఏఐ అభివృద్ధిని నెమ్మదింపజేసే ప్రయత్నాలను అమెరికా అధ్యక్షుడు డొనాల్డ్ ట్రంప్ వ్యతిరేకిస్తున్నారు. ఏఐ రంగంలో అమెరికా ముందంజలో ఉండాలంటే అభివృద్ధి వేగం తగ్గకూడదనేది ఆయన వైఖరిగా ఉంది.
మరోవైపు బ్రిటన్ ప్రభుత్వం ఏఐకి ప్రత్యేకంగా కిల్ స్విచ్ ఏర్పాటు చేయాలనే ప్రతిపాదనను ఇటీవల తిరస్కరించింది. ఒక్క దేశంలో ఇలాంటి నిబంధనలు తీసుకొచ్చినంత మాత్రాన ప్రపంచంలోని ఇతర ప్రాంతాల్లో ఏఐ అభివృద్ధిని లేదా దుర్వినియోగాన్ని అడ్డుకోలేమని బ్రిటన్ ప్రభుత్వం పేర్కొంది. ఇదిలా ఉండగా.. ఏఐ చాట్బాట్ క్లాడ్ను రూపొందించిన ఆంథ్రోపిక్ సంస్థ వరుసగా మరింత శక్తివంతమైన ఏఐ మోడళ్లను విడుదల చేస్తోంది. దీంతో ఏఐ అభివృద్ధి ఎంత వేగంగా సాగాలి? దానికి ఎలాంటి భద్రతా చర్యలు ఉండాలి? ప్రభుత్వాలు ఎంతవరకు నియంత్రణ విధించాలి? అనే అంశాలపై ప్రపంచవ్యాప్తంగా చర్చ కొనసాగుతోంది.
ఏఐ ఎంత శక్తివంతంగా మారినా.. దాన్ని అవసరమైనప్పుడు మనుషులు ఆపగలగడం చాలా ముఖ్యం. ఏఐలో లోపం వచ్చినప్పుడు, అది అనుకోని నిర్ణయాలు తీసుకున్నప్పుడు లేదా దాని వల్ల ప్రజలకు ప్రమాదం ఏర్పడినప్పుడు కిల్ స్విచ్ ఉపయోగపడుతుంది. అయితే కిల్ స్విచ్ ఒక్కటే ఏఐ భద్రతకు పూర్తి పరిష్కారం కాదు. ఏఐని అభివృద్ధి చేసే దశ నుంచే భద్రతా పరీక్షలు, మానవ పర్యవేక్షణ, డేటా రక్షణ, అత్యవసర పరిస్థితుల్లో స్పందించే విధానాలు ఉండాలి. అప్పుడే ఏఐ వల్ల కలిగే ప్రమాదాలను తగ్గించవచ్చు.
