人工智能（AI）發展一日千里，一方面是科技給人帶來極大便利，另一方面卻是詐騙成本的低廉與較之前更容易令人上當。AI這種尖端科技如雙刃劍，對其進行監管迫在眉睫。
AI技術發展迅速，從由美國的OpenAI到中國的DeepSeek，只不過是兩三年間的事。功能也越發強大，數據分析、圖片處理、深度思考……似無所不能。由AI帶來的衝擊已顯現，如深圳已有「AI公務員」上崗，取代了不少原先由人類承擔的任務；許多企業已主動對接DeepSeek，以此提升企業生產力；民眾的手機、電腦下載AI程式，隨時隨地可向AI提問，便捷獲取信息。
但另一方面，AI被不法分子用上後，帶來的破壞性較之前更大。社交媒體上月的熱門話題之一就是，美國洛杉磯63歲的女子塞佩達與偽裝成西班牙流行歌手安立奎．伊格萊西亞斯（Enrique Iglesias）的騙子網戀。她一心以為兩人能結婚，要與丈夫離婚。安立奎也發帖說，「看到犯罪分子利用無辜之人詐騙，真是讓人難過。不要讓任何人愚弄你。當心。」 但女子似乎仍堅信，跟她網戀的就是偶像安立奎……後續尚不知如何。兩年內，騙子一直給她發資訊要錢，甚至要她偷丈夫的錢。
這並非孤例，法國婦人安（Anne）自認與AI生成的美國明星畢彼特（Brad Pitt）墜入愛河，被騙了80萬美元巨款。美國電視主持人Steve Harvey與創作歌手Taylor Swift、全球最大播客Joe Rogan等名人的聲音去年遭AI模仿，被用來宣傳一項承諾政府提供人民資金的騙局。甚至在去年美國大選期間，有人利用AI技術，模仿拜登的聲音，要求選民不要投票……
AI技術生成的圖片、視頻幾可亂真，騙徒製造謠言成本極低，結果助長了虛假資訊、甚至陰謀論的傳播，小則可令無辜者蒙受金錢損失，大則甚至可以左右選舉結果。
從社會發展大趨勢來看，AI的進步與應用不可阻擋，沒有人可以阻撓AI進步，也無法拒絕AI的應用，因為它為人類帶來的好處遠遠大於壞處。就如汽車面世後，雖然引發了大量交通意外，但這種交通工具卻為人類生活帶來巨大便利。對於汽車，各國政府通過訂立交通規則去作出規限，對於AI，亦應以同樣的手法去規範和引導。歐盟早在2024年初，已通過立法，對生成式AI之類的工具作出規範和監管，為全世界作出示範。中國早前聯合發布新規，在9月1日起要求AI生成內容必須添加標識。美國目前是對AI監管最松的國家。今年2月的AI峰會上，美國副總統萬斯警告不要過度監管AI，稱這樣做將扼殺這個新興產業部門。他還暗示其他國家監管AI的努力旨在阻礙美國AI發展。
值得注意的，AI技術突破迅速，監管可能會更不是AI發展的速度，法律、規定方面極可能出現空白，這就需要各國政府與時並進，一旦發現法律法規落後於形勢，就應該盡快修改，加入新規，讓AI應用在正確的地方。
