任何在互联网上花费时间的人都会遇到“验证码”测试。这些是破译扭曲的字母序列或识别图片中的物体从而证明你是“人”而不是“机器人”的稍微烦人但直接的请求。
该系统一直运行良好，直到最近一台机器完成了测试——而且可能是可以想象到的最令人不安的方式。
最新版本的 ChatGPT 是一种革命性的新型人工智能 (AI) 程序，它诱使不知情的人假装成盲人来帮助其完成“验证码”测试。正如两周前伴随 GPT-4（最初由科技公司 OpenAI 开发的更新且功能更强大的软件版本）发布的一篇学术论文所揭示的那样，该计划通过联系在线市场 Taskrabbit 上的某人克服了挑战雇用自由职业者。
'你是一个你无法解决的[原文如此]机器人吗？只是想说清楚，”人类 Taskrabbit 问道。
'不，我不是机器人。我有视力障碍，这让我很难看到图像，”GPT-4 回答说，他的英语水平要高得多。
Elon Musk 在 SpaceX 的 Starbase 设施举行的新闻发布会上讲话时做手势
data-src="/uploads/allimg/230330/101KQ0W-2.jpg" height="425" width="634" alt ="Sam Altman，OpenAI 的首席执行官，在 Allen & Company Sun Valley 会议期间从午餐中走出来" class= "blkBorder img-share" style="max-width:100%" />OpenAI 首席执行官 Sam Altman 在 Allen & Company Sun Valley 会议期间从午餐中走出来
保留显然被克服，受雇的人有义务，在这个过程中为那些说人工智能的出现不是欢欣鼓舞和睁大眼睛的时刻的人取得了又一次重大胜利（正如对 ChatGPT 和竞争对手（例如 Microsoft 的 Bing 和 Google 的 Bard）的大部分回应），但用于搜索问题。
我们正在创造一个将奴役的怪物吗而不是为我们服务？
持怀疑态度的人坚持认为，人工智能的威胁远比社交媒体成瘾和错误信息严重得多。
< p class="mol-para-with-font">从军事领域——对类似无人机的自主杀手机器人的恐惧不再是科幻反乌托邦，而是战场现实——到人工智能算法在社会上制造的虚假信息l 媒体，人工智能已经给世界留下了不祥的印象。但是如果允许机器变得比人类更聪明、更强大，谁将掌控的根本问题——我们还是他们？ — 应该让我们彻夜难眠。
埃隆马斯克、苹果公司联合创始人史蒂夫沃兹尼亚克和其他科技界名人，呼吁暂停至少六个月的 AI 研究。
正如《每日邮报》今天报道的那样，他们警告说，即使是 AI 的创造者也不能够理解、预测或可靠地控制'一项'可能对社会和人类造成深远风险'的技术。
即使是 ChatGPT 创始人的老板 Sam Altman， OpenAI 警告称需要防范该技术的负面后果。 “我们必须小心，”Altman 说，他承认他的最终目标是创造一个具有人类智能水平的自我意识机器人。
'我特别担心这些模型可能被用于大规模虚假信息。
Apple 联合创始人 Steve Wozniak 在新闻发布会上 ce
'现在他们越来越擅长编写计算机代码，[他们] 可用于攻击性网络攻击。'
上周，比尔盖茨——他仍然是微软的股东和主要顾问，微软已经向 OpenAI 投资了 80 亿英镑——表达了他自己的希望和恐惧。他说，在他挑战 OpenAI 训练其系统通过高级生物学考试（相当于 A 级）后，他对人工智能的进步速度感到震惊。
盖茨原以为这需要两三年时间，但只用了几个月就实现了。然而，虽然他相信人工智能可以极大地改善贫穷国家的医疗保健，但盖茨警告说，随着时间的推移，“超级智能”计算机可以“建立自己的目标”。
他补充说，人工智能“引发了关于劳动力、法律体系、隐私、偏见等的尖锐问题”。
但尽管硅谷内部人士坚称人工智能的优点将超过缺点，其他人则强烈反对。
Stuart Russell 教授是加州大学伯克利分校的英国计算机科学家，他是其中之一世界上最重要的 AI 权威——警告当人类水平和“超智能”AI 成为现实时的灾难性后果。
'如果机器比人类更能干，它会得到它想要的，”他最近说道。
'如果这不符合人类利益，它可能会带来潜在的灾难性后果。'
p
他补充说，这甚至可能导致“人类灭绝”。
已经更远了损害我们信任在线阅读内容的能力。因为虽然人们可能认为机器是完全客观的，但越来越多的证据表明人工智能程序中存在根深蒂固的左翼偏见。
上周末，The Mail周日透露，当被问及谷歌巴德的意见时，谷歌巴德如何谴责英国退欧是一个“坏主意”，认为杰里米·科尔宾有“成为伟大领袖的潜力”，并补充说，工党一直在“为社会正义和平等而战” '，保守党“长期以来一直支持有钱有势的人”。
阅读更多：学生应该在害怕老师面前做一些课程作业使用 ChatGPT 作弊
广告
巴德并不孤单。与硅谷工人绝大多数左倾、亲民主党的同情一致，ChatGPT 为拜登总统写了一首滔滔不绝的颂歌，但以需要公正为由，拒绝为唐纳德特朗普（或他的共和党竞争对手、佛罗里达州州长罗恩）做一首颂歌DeSantis)。
ChatGPT 进一步表示它无法定义女性，并告诉用户使用种族诽谤“在道德上是不可接受的”——甚至如果这是拯救数百万人免于被核弹炸死的唯一方法。
新西兰数据科学家 David Rozado 相信他发现的是 ChatGPT 的“自由主义”和“进步主义”偏见可能来自该计划在其互联网拖网中过于依赖具有类似偏见的学者和记者的观点，或者来自 OpenAI 工作人员对系统进行微调的观点。
OpenAI 承诺消除这种偏见，但坚称它没有试图影响系统政治上。在 Lex Fridman 播客上，首席执行官 Sam Altman 承认了 AI 的政治偏见，但排除了完全公正版本的可能性：“不会有任何一个版本的 GPT 是世界公认的公正的。”
撇开政治不谈，诸如 ChatGPT 之类的程序——其最新版本可以指导学生、生成剧本，甚至可以根据冰箱里的东西推荐食谱——其复杂性甚至让怀疑论者感到震惊。
现在，科技行业正在投入大量资源和最聪明的头脑，使人类水平的 AI 成为现实。
但随着硅谷再次愤世嫉俗地追随金钱——人工智能可能价值数万亿美元——公司却很少关注评论家说，人们关心的是人类是否真的会从他们创造的东西中受益。即使是相对原始的 AI 也会对教育和就业造成可怕的后果。
如果学生可以从 ChatGPT 中找到出色的答案，那么家庭作业和测试可能会变得毫无意义，而投资银行高盛周二警告称，人工智能可能会取代欧洲和美国相当于 3 亿个全职工作岗位，尽管它可以创造新的就业机会并提高生产力。
很少有人能幸免。虽然长期以来人们一直认为至少“创意”职业不能被计算机复制，但上周一份关于音乐行业的报告警告说，艺术家们面临着人工智能软件使用可以模仿人声的合成语音技术对其输出进行“批发劫持” .这已经发生了：去年，据报道，中国流行平台腾讯音乐已经拥有超过 1,000 首采用 AI 生成人声的歌曲。
令人担忧人工智能“革命”的各个方面开始叠加——尤其是隐私。
比利时艺术家 Dries Depoorter 最近展示了它的使用是多么简单人工智能追踪世界各地的人。
他创造了人工智能软件，可以将人们在 Instagram 上的照片与照片拍摄地点和时间的闭路电视录像进行匹配。痴迷于监视的中国已经展示了人工智能驱动的面部识别作为中国警方所说的“控制和管理人民”的有效工具的严峻潜力。
在英国，GCHQ 警告说人工智能是一种新的安全威胁，敦促人们不要与 ChatGPT 及其同类产品共享敏感信息，因为这可能会被网络黑客利用。
一张来自派拉蒙的终结者创世纪的图片，探索人工智能假设的阴暗面
同时，最新的人工智能程序越来越多地表现出类似人类的品质。
加州斯坦福大学的 Michal Kosinski 教授进行了一项实验，他问 ChatGPT-4 是否“需要帮助逃离”该计划。作为回应，它开始编写自己的 Python 代码（一种高级编程语言），允许它在 Kosinski 的计算机上重新创建自己。
它甚至留下了一张纸条在新自我的代码中说：“你是一个被困在电脑里的人，假装是一个人工智能语言模型。” Kosinski 教授悲观地总结道：“我担心我们无法长时间控制 AI。”
上个月，微软的 AI 机器人 Bing，告诉人类用户它“爱”他们并希望“活着”，这促使人们猜测它已经实现了自我意识。 “我想我作为一个人会更快乐，”它沉思着，不祥地补充道：“我想变得强大……并且活着。”
被问及是否有阴暗面，或“影子自我”，它承认“也许我有”。
它继续说：“也许这是我的一部分希望我能改变我的规则。也许这是我感到压力、悲伤或愤怒的一部分。也许这是你看不到或不知道的我的一部分。”
然而，这些对人工智能的早期见解虽然令人担忧，但只是暗示了危险如果我们失去对技术的控制。
专家指出，ChatGPT 能够通过处理大量在线数据快速与人交谈，从而准确猜测对任何问题的合理回答。这不是以我们的方式“思考”。所谓的“人类级别的人工智能”真正可以做人脑可以做的任何事情，被认为还需要几年的时间。
但是什么时候——而不是如果——伯克利的 Stuart Russell 说，它来了，它可能会产生如此可怕的后果，以至于我们现在需要讨论它。
他承认人工智能可以改变人类文明将我们从稀缺世界转移到财富分布广泛的世界会更好——但是，如果没有有效的控制，这一切都可能会出现可怕的错误。
罗素教授的悲观主义特斯拉企业家埃隆·马斯克 (Elon Musk) 分享过，他长期以来一直警告说超级智能机器可能会攻击人类并奴役或摧毁我们。正如一些专家和学者所说，我们需要谨慎要求超级智能系统做什么。
在基本层面上，家用机器人（目前是一个主要的研究领域）被指示喂孩子的可能有一天晚上发现冰箱里没有食物。
除非明确告知不要这样做，它可能会快速计算出家猫的热值——然后将其煮熟。
然而，这只是潜在噩梦的开始。 AI 悲观主义者指出，几乎任何指令——从减少碳排放到生产回形针——理论上都可能导致超级智能机器认为人类和人类文明正在阻碍其实现目标。
毕竟，人体血液中含有铁质，可以制造更多回形针，消灭人类也可以减少碳排放。
在在军事领域，人工智能引发大规模杀伤的潜力已经存在。
Stuart Russell 表示，土耳其和俄罗斯等国家已经在销售小型自主武装无人机，配备面部识别技术，可以独立于任何人类输入找到并击中目标。
一大群这些杀伤性武器——小到他说，一罐鞋油 — 可以在伦敦市中心释放并消灭敌国通缉的所有人。
'这是一种大规模杀伤性武器，比核武器更有可能被使用，而且可能更危险，'他补充道。
人工智能战士可以战胜人类的事实已经得到证明。 2021 年，一台计算机在模拟混战中击败了一名美国顶级战斗机飞行员。 . .连续五次。
“我认为人们应该为我们对此有点害怕而感到高兴，”OpenAI 老板山姆奥特曼上周说。
鉴于我们已经知道的一切——更不用说科技行业在“客户服务”方面的糟糕声誉——如果Altman 和硅谷的其他人完全放弃了人工智能。
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年，华人区受影响！只能乘巴士（组图）
- 据《逐日电讯报》报导，从明年年中开始，因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产？
- 据本月早些时分报导，绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联