目前技术上的一大挑战是，还无法预测出它会生成什么样的答案 。很多人都做过测试，当使用不同提示词的时候，它给出的答案是不同的，“有点不受控” 。
这就导致出现“幻觉”或是“说谎”的现象 。它们很有创意，会按照指令生成任何你想要的东西，但不知道什么时候是正确的，什么时候又是错的 。冯雁说，AI生成的结果有些是基于事实的，而有些则是很奇怪的，比如生成出来的图可能是一只6根指头的手，或是编造了一个从来没有发生过的历史事件 。而这个问题的严重性在于，很多人相信了这些AI“幻觉”，包括她自己也曾对谎言信以为真 。
还有一个需要解决的问题是AI的偏见 。“有的是回答中就带着偏见，甚至带有恶意 。”冯雁说，ChatGPT的答案反映的其实是人类社会的问题，“所以我们有非常多工作要做” 。
同样的，斯洛文尼亚数字转型部部长Emilija Stojmenova Duh最担心的也是偏见，“原本社会上就处处存在着偏见，AI可能会让原本就有的成见进一步加深 。”
一些偏见还来自数据的偏差 。今天用于大型语言模型训练的大部分都是英文数据，因为互联网上的英文材料和数据最多，所以大模型的英语水平很高 。“我们在对标研究当中发现，它们的中文水平其实也相当不错，背后原因也是因为网上有很多中文的内容 。”冯雁说，必须意识到，全球现存近6000种语言，“我们不想看到经济上的贫富差距被复制到模型上 。”
还有人担心，一些别有用心的人拿AI技术去干坏事 。IBM大中华区董事长、总经理陈旭东表示，IBM很早就开始研究AI伦理问题，也正因此，IBM有一个惊人的举动——放弃对人脸识别的研究，“因为这个有可能被用来做邪恶的事 。”
技术创新的进程伴随着“魔高一尺，道高一丈”的较量 。ChatGPT迅速走红后，IBM根据过去几十年积累，迅速推出了一款产品，帮助企业训练AI模型，保证数据和信息的安全 。不久前，ChatGPT的开发者OpenAI又推出一款工具，用来识别文本是否由ChatGPT所撰写 。
“尽管担忧，但这不应该阻碍创新的步伐 。”Emilija Stojmenova Duh说出了多数人的心声——如果畏首畏尾，将无法发挥AI的潜力，“政府也应该支持AI的创新 。”
世界经济论坛执行委员会成员及人工智能、数据和元宇宙行业负责人李响认为，必须清楚AI有哪些潜力和挑战，同时负责任地使用和应对AI，才能为人类带来创新、创意和进步 。
中青报·中青网采访人员 胡春艳 张均斌 来源：中国青年报
推荐阅读
- 抖音月涨粉220万，“探店打假”成新流量密码？
- 微信支付“你扫我”和“我扫你”有什么区别？哪种更安全
- 从任敏“翻车”看影视行业现状，“揠苗助长”的反噬一直都在
- “天后”李玟的一生：生于单亲家庭，获评华人之光，中年经历失婚
- 为啥有些女人“一碰就怀”？除了遗传，易孕体质还有“7没”特点
- 几种“铅坠躺底”，依然高灵敏度钓法，超高中鱼率
- 盛夏的鱼最难钓，“吃”透4个连竿绝学，爆护很容易
- 夏季天热，大鲫鱼在4种位置“避暑”，找对钓点才能连竿上鱼
- 害人不浅，靠核酸造假“日入过亿”，张姗姗幕后家族曝光
- 比较结实的几种“文玩”，不怕温度不怕汗水，盘玩出来非常好看