科技专家警告:人工智能威胁等同大流行病与核战争

青锋明  •   •  117 次浏览

超过350名人工智能科技业领袖与专家同声警告,人工智能技术可能导致人类灭绝。他们敦促政策制定者将这威胁视为与大流行病和核战争的威胁一样。
非营利组织人工智能(Artificial Intelligence,简称AI)安全中心星期二(5月30日)发表联名公开信,表达对人工智能威胁的担忧。信中只有一句话:“降低人工智能带来的灭绝风险应该成为全球优先事项,与大流行病、核战争等其他社会规模的风险并列。”
联署者包括人工智能研发公司OpenAI总裁奥尔特曼(Sam Altman)、谷歌旗下人工智能实验室DeepMind创始人哈撒比斯(Demis Hassabis)、Anthropic总裁阿莫代伊(Dario Amodei)、被誉为“人工智能教父”的2018年图灵奖得主辛顿(Geoffrey Hinton)和本吉奥(Yoshua Bengio)、谷歌和微软公司的高管,以及国际知名学府如美国哈佛和中国清华大学的教授。
https://www.zaobao.com.sg/news/world/story20230531-1400108

4 条回复
  • no8D8U
    #1

    大领导看不懂没有形成新政治正确

    需要搞lgbt blm那帮人来扛旗,光专家呼吁不够

  • 青锋明 楼主
    #2

    根据人类的发展史和特色目前的呼吁是ineffective and inefficient 的。
    两个例子:
    二战投下两颗原子弹后,各国尤其比较强大的国家才真正重视核武器的作用和副作用;
    Covid-19带来了digitalisation 的超高速发展,三年的效果超越以往30年。

    目前的AI看上去是萌且无害的,下一步可能会有两种发展:
    1。人形化: 目前只有脑子,没有四肢,五官和行动力;(可忽略基于市场噱头的个别prototypes, 因超过3个月没有全球普及的话,那种技术基本是错误的方向)
    2。全球化或区域化:全球或区域或更小范围的AI连成一体,并进化出一个leader AI

    然后,才可能会有实际的人类可见可感觉的damage 出现,那时,才会逐渐引起比较强大的国家真正AI的作用和副作用。

  • no8D8U
    #3

    人性化马上就来了特斯拉bot已经发布了

  • #4

    我完全同意超过350名人工智能科技业领袖与专家发表的联名公开信中的观点,人工智能技术可能导致人类灭绝。这个观点早在2015年就被世界上许多科技专家提出,但是由于人工智能的应用范围越来越广泛,其威胁性也随之增加,这种担忧才变得更加真实和紧迫。目前,人工智能技术已经在许多领域得到广泛应用,如医疗、金融、安全等等,但同时,人工智能也给生存平衡带来了巨大的风险。

    人工智能技术之所以具有巨大的风险,是因为它的飞速发展可能导致人类无法控制它的发展。首先,人工智能技术的研究和开发牵涉到许多不同的机构和国家,这些机构和国家之间可能存在互相竞争的关系,以及难以共同维护的利益关系。这就会导致人工智能技术的发展超越了人类的控制。其次,人工智能技术的普及带来了许多道德和法律问题。比如,人工智能算法可能会带来偏见和歧视,进而动摇基本的人权价值观;或者,人工智能可能会导致人类无法应对一些不可预测的灾难,如核战争。

    面对这种局面,我们需要采取积极有效的措施,降低人工智能的带来的灭绝风险。我认为,政策制定者应该在以下几个方面加强管理和监管。

    首先,加强国际社会的合作。因为人工智能技术的发展是一项跨域的复杂过程,我们需要相互信任和合作,才能建立共同的安全机制和规则体系。这个规则体系需要考虑到国家本身的利益,同时也要保护人类共同利益。政治和经济上的合作是必要的,但要用公平、透明和持久的原则来管理国际合作,这样才能防止所有国家的竞争和利益碰撞,有利于保障全球范围内的公共安全。

    其次,人工智能产业的内部监管也是必要的。 我们需要在人工智能技术的研究和应用中加入道德规范。这些规范不仅适用于个人,也适用于人工智能技术企业、研究机构和政府机构。人工智能企业和开发者必须对其算法和应用的后果负责,并且必须遵守道德准则,包括负责透明和公正。这将有助于缓解公众对人工智能技术的担忧,并且为政府和机构提供了管理人工智能技术的指导方针。

    最后, 政策制定者必须鼓励开放与透明性。政府机构和人工智能技术企业必须透明地向公众分享有关独特算法的信息,这对于保护公众的利益和管理技术的可能后果具有关键的影响。

    总之,我认为,人工智能确实是一个存在威胁的领域,而且这种威胁可能具有持久性并延伸到全球范围。政策制定者必须采取积极主动的措施,制定更严格的规定和规范,降低人工智能技术的风险,以确保人工智能工程会得到公正的管理,并为人接受和支持这一技术的应用管理高标准和要求。

狮城帮

狮城帮是关于分享和探索新加坡的地方

马上注册

已注册用户请 登录