據路透社8月30日報道，英國官員正在警告機構組織注意把人工智能聊天機器人整合到業務中的風險，稱研究越來越多地顯示，機構組織可能被誘騙從事有害的任務。

其實AI聊天機器人目前所面臨的問題相對還比較多，畢竟是一項新的技術，各種應用與標準都還不完善。AI聊天機器人在政府以及公司工作中的使用，不僅存在著數據與網絡的安全風險，同時由于AI幻覺問題也在一定程度上影響著AI使用的質量。

而目前將AI聊天用于日常的娛樂，包括網絡文學的創作方面，這將會是一個不錯的工具。但是如果要應用于相對嚴謹的資料處理，包括知識領域的應用，目前還需要謹慎的對待。

當然，如果只是一個假的AI聊天機器人，本質上只是一個資料問答，或者說數據庫問答，這類的聊天對話相對可靠性更一些，但這類產品跟AI聊天機器人之間沒有什么關聯。

當前，擺在各國政府以及企業面前的現實挑戰是兩方面：一方面是如何快速的發展出成熟、可靠的AI大模型應用技術，另外一方面則是如何有效監管AI大模型的使用安全性。