Bốn quy tắc có bẫy logic, vũ khí hóa AI tiếp cận điểm kỳ dị
Nhà sản xuất truyền hình độc lập Li Jun cho biết trong chương trình "Diễn đàn ưu tú" của NTDTV rằng khi nói đến tương lai của AI, tôi rất bi quan. Tôi nhớ lúc đó có một bộ phim "The Matrix", tôi đã xem không dưới mười lần, vì bộ phim này khiến tôi phải suy ngẫm về toàn bộ công nghệ của con người. Tôi luôn nghĩ rằng phát triển công nghệ ngay từ đầu là một điều tốt, nhưng nếu đi theo cảnh được mô tả trong phim “Ma trận”, những cỗ máy thông minh do AI điều khiển và con người lao vào chiến tranh, và cuối cùng con người bị đánh bại, chỉ còn lại một số ít người trốn đến thành phố ngầm Zion để duy trì sự sống còn của con người. Và hầu hết con người đã trở thành một cục pin thực tế ảo do AI tạo ra. Bộ phim này thực sự nói về một logic, đó là khoa học nhân loại đang đi theo hướng này nên tôi đã rất sốc sau khi xem nó. Bởi vì tôi là người hữu thần nên tôi tin rằng đây là lời cảnh báo của God với nhân loại, cảnh báo nhân loại rằng nếu sự phát triển của công nghệ như hiện nay vẫn tiếp tục thì rất có thể một ngày nào đó con người sẽ thực sự trở thành cục pin cho robot. Tôi tin rằng nhiều người ở các nước phương Tây cũng có quan niệm này sau khi xem video này, nên hôm nay các bạn sẽ thấy rất nhiều người trong xã hội phản đối sự phát triển nhanh chóng của AI. Họ tin rằng AI phải được kiểm soát, lập kế hoạch và giám sát.
Nhưng hiện nay ngành AI được coi là ngành hứa hẹn nhất tiếp theo cho nhân loại. Khi ham muốn của con người bị kiểm soát, lý trí của họ vượt quá tầm kiểm soát, nên rất nhiều người đã nghiên cứu một số đột phá trong lĩnh vực này. thứ dòng.
Kể từ nửa cuối năm nay, hai nhân vật AI hàng đầu của Trung Quốc đã qua đời. Một là vào ngày 1 tháng 7, Feng Yanghe, một chuyên gia hàng đầu về mô phỏng quân sự AI của ĐCSTQ, đột ngột qua đời trong một vụ tai nạn xe hơi. Bây giờ đã là cuối năm, Tang Xiaoou, người sáng lập China SenseTime Technology, đã qua đời một cách bí ẩn trong giấc ngủ vào ngày 15 tháng 12. Tang Xiaoou rất đặc biệt. Anh ấy là nhân tài hàng đầu trong hệ thống AI nhận dạng khuôn mặt của Trung Quốc, và SenseTime cũng đã quy tụ một lượng lớn nhân tài trong lĩnh vực AI của Trung Quốc. SenseTime là một tổ hợp công nghiệp quân sự và Tang Xiaoou cũng là thành viên của tổ hợp này. quân đội.
Shi Shan, biên tập viên cao cấp và trưởng biên tập của The Epoch Times, cho biết trong "Diễn đàn ưu tú" rằng loại AI mà chúng ta đang thấy hiện nay được gọi là ANI (Trí tuệ thu hẹp nhân tạo) trong ngành và bản dịch sang tiếng Trung Quốc có tên là AI yếu hoặc trí tuệ nhân tạo yếu. Nói cách khác, nếu con người chỉ định một nhiệm vụ, nó có thể hoàn thành nó tốt hơn con người. Nếu con người không chỉ định nhiệm vụ, nó sẽ không tự động mở rộng. Khi đó AGI là Trí tuệ nhân tạo tổng hợp, trí tuệ nhân tạo tổng hợp, hơi giống AI mạnh. AI mạnh có nghĩa là nếu bạn đặt ra những điều cơ bản cho nó, nó sẽ có khả năng làm gần như con người. Nó cũng có thể tự học và thu thập dữ liệu trong bất kỳ lĩnh vực nào, bạn chỉ cần hỏi nó một câu hỏi là nó. sẽ tự học, nó sẽ gần giống như những gì bạn đã làm. ChatGPT hiện tại đang đi theo hướng này.
NASA藉由其哈勃太空望远镜（Hubble Space Telescope）所进行的调查发现，当褐矮星的年龄比较大时，它们比较不可能有其它褐矮星相伴。
Cá Tôm Cua某些复杂的问题，例如如何最好地通过电网分配电力、或桥梁如何应对地震，仍可用经典物理学和计算机做最好地理解。
科学家们逐渐了解到这些微生物从消化到抑郁等各个方面的作用。然而，它们对我们早期发育的贡献在很大程度上是一个谜，特别是当涉及到幼儿期的大脑发育时。
虽然Grok-1参数要比OpenAI开发的ChatGPT 4.0拥有的参数（超过1兆）还是要少，但马斯克曾表示，“Grok-1.5将全面进行实质改进”。目前Grok-1在自由软体Apache-2.0许可证下，开放给有订阅X平台的用户进行商用和二次开源，但要说明来源且不能注册商标。
Nhưng trong tương lai có một loại AI khác còn đáng sợ hơn nữa, đó là ASI, đó là siêu AI, siêu trí tuệ nhân tạo. Định nghĩa của nó là gì? Nó có thể tự thiết kế logic cơ bản của mình, nhưng con người có thể không kiểm soát được nó vào lúc này. Vậy khi nói về việc AI có thể tiến xa đến đâu, chúng ta đều biết đến ba giai đoạn này. Có lẽ chúng ta sẽ phải nói đến AGI và ASI. Ở giai đoạn này, chúng ta còn có thể điều khiển được máy móc hay không? Ai đang kiểm soát ai?
Shishan nói, tôi nhớ rằng vào những năm 1950, khi Asimov, một nhà văn khoa học rất nổi tiếng người Mỹ, đang viết một cuốn sách, ông ấy đã viết Ba định luật về người máy. Quy tắc đầu tiên là robot không được làm hại con người hoặc cho phép con người bị tổn hại. Luật thứ hai là robot phải tuân theo mệnh lệnh của con người trừ khi mệnh lệnh đó mâu thuẫn với luật thứ nhất. Định luật thứ ba là robot có thể tự bảo vệ mình mà không vi phạm định luật thứ nhất hoặc thứ hai. Sau đó, anh ấy phát hiện ra có sơ hở nên đã thêm vào luật thứ 0, nên nó trở thành Bốn điều luật của Asimov. Anh ấy đã thêm luật thứ 0, trong đó quy định rằng người máy không được làm hại toàn bộ loài người, hoặc ngồi xem toàn bộ. loài người. Bị tổn thương là quy luật thứ 0. Sau đó là Luật thứ nhất, quy định rằng robot không được làm hại con người hoặc cho phép con người bị tổn hại trừ khi nó vi phạm Luật thứ không. Ông đặt con người cá nhân dưới con người tổng thể, và điều này đã thay đổi. Bạn đo lường mức độ tổn hại đối với con người nói chung như thế nào? Nếu AI xác định rằng toàn thể nhân loại có thể bị tổn hại thì nó có thể gây hại cho từng cá nhân con người. Cái bẫy logic ở đây càng trở nên lớn hơn khi nó được lấp đầy nên rất đáng sợ. Vì vậy, toàn thể nhân loại luôn thận trọng trong việc phát triển trí tuệ nhân tạo, lo lắng liệu nó có vượt quá cái gọi là điểm kỳ dị này hay không.
Guo Jun, tổng biên tập của The Epoch Times, cho biết trên Elite Forum rằng Musk từng nói về vấn đề kỳ dị này. Quan điểm đầu tiên của ông là một khi trí tuệ nhân tạo được sử dụng trong quân sự hoặc vũ khí, nó có thể vượt trội hơn. vấn đề kỳ dị này, bởi vì chiến lược của vũ khí là làm tổn thương con người. Bây giờ vũ khí trí tuệ nhân tạo đã bắt đầu, chẳng hạn như hệ thống vũ khí tự động không người lái, cho dù chúng là tự động đi bộ hay bay tự động, miễn là chúng là hệ thống vũ khí tự động, chúng có quyền ra quyết định độc lập ở một mức độ nhất định và mục đích của chúng là làm hại con người. Chỉ là ai cũng mong rằng sẽ làm tổn thương kẻ thù thay vì làm tổn thương chính mình, nhưng kẻ thù cũng là con người mà thôi
