NộI Dung
- Bắn bởi máy
- Tự động hóa và gián đoạn công việc
- Không lỗi, không căng thẳng - Hướng dẫn từng bước của bạn để tạo ra phần mềm thay đổi cuộc sống mà không phá hủy cuộc sống của bạn
- Ứng dụng từ Điện tử tiêu dùng
- Kiểm soát
- Làm thế nào nó có thể làm việc
Nguồn: Artinspires / Dreamstime.com
Lấy đi:
Để tự động hóa hoạt động với và cho nhân loại thay vì chống lại nó, chúng tôi cần các biện pháp bảo vệ và thông báo cho con người được trao quyền để ngăn chặn hoặc khắc phục lỗi hệ thống.
Cấm To err là con người; để thực sự làm hỏng mọi thứ đòi hỏi phải có máy tính. William William Vaughan đã thực hiện quan sát này vào năm 1969. Trao quyền kiểm soát cho một hệ thống tự động mang lại tiềm năng cho hệ thống bị hỏng và gây hại nghiêm trọng trước khi nó được kiểm tra.
Tự động hóa không phải là mới, nhưng nó đang trở nên phổ biến hơn rất nhiều nhờ sự tích hợp của các hệ thống kỹ thuật số và vật lý. Mặt trái của tự động hóa ở quy mô là hiệu quả tuyệt vời. Nhưng nhược điểm của việc dựa vào hệ thống thiết lập và quên nó là ai đó có thể không thiết lập đúng.
Với một hệ thống chỉ đơn giản là không có sự can thiệp và không có cách nào ngăn chặn máy móc, bạn có thể có những tác động hủy diệt. Theo đó, công nghệ có thể tạo ra loại tình huống được mô tả trong Trò chơi phù thủy, phù thủy khi mà những gì xuất hiện để làm cho cuộc sống dễ dàng hơn thực sự vượt khỏi tầm kiểm soát.
Bắn bởi máy
Tự động hóa mà không can thiệp là kết quả khiến một nhân viên công nghệ ở Hoa Kỳ tìm thấy chính mình trong một công việc không có lý do vào năm ngoái. Ibrahim Diallo nhận thấy rằng thẻ giải phóng mặt bằng an ninh của anh ấy khi làm việc tại công sở và phát hiện ra rằng đó là vì anh ấy đã nghỉ việc. Cuốn The Fired Me Máy là tiêu đề anh dành cho bài đăng trên blog mở rộng của mình về sự kiện này.
Cuối cùng, nguyên nhân của việc chấm dứt Diallo không phải là một loại đánh giá thuật toán xác định ai nên loại bỏ. Vấn đề không phải là trong hệ thống, nhưng là một trong những lỗi của con người. Trong trường hợp này, tất cả là phản ứng tự động đối với sự thất bại của con người khi đưa thông tin gia hạn hợp đồng Diallo vào.
Nó không phải là cỗ máy quyết định anh ta nên bị sa thải vì một cái gì đó đặc biệt. Nó chỉ đơn giản là thực hiện các bước được lập trình trong đó cho một người có trạng thái không còn làm việc nữa. Như ông đã làm rõ trong các bình luận, đây không thực sự là AI mà là kịch bản tự động hóa. Trực tiếp (Để tìm hiểu về cách AI có thể giúp đỡ (thay vì làm tổn thương) trong các doanh nghiệp, hãy xem AI có thể làm gì cho Doanh nghiệp.)
Tự động hóa và gián đoạn công việc
Loại hiệu ứng này không chính xác như những gì mọi người hình dung khi mô tả những lợi ích tuyệt vời mà chúng ta có thể dự đoán trong một tương lai tự động. Triển vọng lạc quan thông thường cho sự thay đổi công việc khi các nhiệm vụ được thực hiện bởi tự động hóa, các công việc sẽ được xác định lại - không bị chấm dứt bởi các hệ thống tự động. Nhưng thực tế là một số công việc sẽ bị loại bỏ, và những người nắm giữ chúng đã giành được sự nhất thiết có thể thực hiện một sự chuyển đổi liền mạch sang sự nghiệp mới trong một ngành công nghiệp tự động.
Sự gián đoạn công việc là một trong những rủi ro nhỏ hơn mà Elon Musk đã hình dung cho sự phát triển của AI, mặc dù tầm nhìn của chính ông về tác động đối với công việc còn bi quan hơn nhiều so với Fitzgerald. Theo quan điểm của Musk, AI cần có quy định nghiêm ngặt bởi vì nó đặt ra rủi ro cơ bản, tồn tại cho nền văn minh nhân loại.
Không lỗi, không căng thẳng - Hướng dẫn từng bước của bạn để tạo ra phần mềm thay đổi cuộc sống mà không phá hủy cuộc sống của bạn
Bạn không thể cải thiện kỹ năng lập trình của mình khi không ai quan tâm đến chất lượng phần mềm.
Ứng dụng từ Điện tử tiêu dùng
Bất chấp thông tin công nghệ của riêng Musk, một số chuyên gia trong lĩnh vực như Rodney Brooks, người từng là giám đốc sáng lập của Phòng thí nghiệm Khoa học máy tính và Trí tuệ nhân tạo của MIT, và đồng sáng lập cả iRobot và Rethink Robotics, nói rằng Musk đã sai về mối đe dọa của AI và cách robot Thực sự hoạt động.
Trong một cuộc phỏng vấn với TechCrunch, Brooks chỉ ra rằng thật ngu ngốc khi gọi các quy định mà không có công nghệ trưởng thành đến mức chúng ta có thể xác định chính xác những gì phải được quy định. Anh ta thách thức Musk: Hãy nói với tôi, bạn muốn thay đổi hành vi nào, Elon?
Brooks đã thừa nhận rằng robot sẽ mang lại sự thay đổi công việc. Nhưng ông cũng nghĩ rằng có thể thay đổi mô hình trong ngành để theo ngành điện tử tiêu dùng.
Cách anh ấy đưa nó vào cuộc phỏng vấn của TechCrunch là: Vượt Chúng tôi có truyền thống sản xuất thiết bị có giao diện người dùng khủng khiếp và thật khó khăn và bạn phải tham gia các khóa học, trong khi trong lĩnh vực điện tử tiêu dùng, chúng tôi đã tạo ra những máy móc mà chúng tôi sử dụng dạy cho mọi người Làm thế nào để sử dụng chúng.
Đó là những gì ông nói nên là mục tiêu để thay đổi cách chúng ta liên quan đến thiết bị công nghiệp và các loại thiết bị khác, để làm cho máy móc dạy cho mọi người cách sử dụng chúng.
Kiểm soát
Những gì Brooks gợi ý có thể chỉ cho chúng ta hướng giải pháp cho vấn đề lỗi của con người đặt ra quy trình tự động dường như vượt khỏi tầm kiểm soát. Để đề cập lại về sự sai lầm của Mickey, trong Trò chơi phù thủy, Học vấn, tất cả đều bắt nguồn từ người kích hoạt hệ thống nhưng không có cách nào thực sự giao tiếp với nó để khiến nó dừng lại hoặc thay đổi hướng.
Nhưng nếu giao diện được thực hiện dọc theo các dòng điện tử tiêu dùng thay vì các mô hình công nghiệp truyền thống, nó có thể đặt quyền điều khiển trở lại vào tay con người. Để thực sự hiệu quả, giao diện không chỉ có thể truy cập được mà còn được thiết kế để giữ mọi người trong vòng lặp về những gì đang xảy ra, cung cấp dữ liệu về các bản cập nhật đã nhận và những hành động đã thực hiện.
Làm thế nào nó có thể làm việc
Trong trường hợp chấm dứt tình cờ Diallo, điều đó có nghĩa là hệ thống tự động sẽ không khóa anh ta khỏi hệ thống và sau đó cung cấp cho nhà tuyển dụng của anh ta rằng anh ta bị chấm dứt. Trước tiên, nó sẽ nhận ra rằng việc gia hạn hợp đồng đã không được đưa vào đúng ngày dự kiến. Trước khi bắt đầu các hành động chấm dứt, nó sẽ cung cấp cho người quản lý và nhà tuyển dụng bản cập nhật về việc thiếu gia hạn và hậu quả sẽ xảy ra trong ngày nếu không có hành động nào được thực hiện.
Loại cảnh báo đó sẽ cho phép mọi người đưa ra quyết định sáng suốt về việc nên để tự động hóa tiếp tục hay can thiệp để khắc phục lỗi của con người là nguyên nhân ban đầu của vấn đề. Nhưng mọi người cũng phải làm phần việc của mình, phản ứng với cảnh báo và có hành động đúng đắn. Nói cách khác, câu trả lời cho câu hỏi mà Brooks đặt ra về hành vi áp dụng cho con người; họ cần phải ít bị động hơn khi đối mặt với tự động hóa. (Để biết thêm về cách con người và máy móc có thể làm việc hợp tác, hãy xem Phân chia yếu tố con người: Chính sách, thủ tục và quy trình.)
Như Diallo đã viết trong phần bình luận trên blog của mình, lý do điều này có thể đi đến điểm nó đã làm là mọi người đã từ chối chống lại máy:
Một điều khác bị bỏ qua, là mặc dù mọi người đều biết rằng đó là lỗi của con người đã gây ra nó và đó hoàn toàn là một lỗi, họ đã chọn tuân theo s. Nó giống như đặt một hút thuốc cho phép vào bệnh viện và mọi người tôn trọng dấu hiệu đó thay vì sử dụng thông thường.
Theo đó, các chính sách chúng ta cần áp dụng để tự động hóa hoạt động và cho nhân loại thay vì chống lại hai mặt: Về phía máy móc, chúng ta cần các giao diện có thể truy cập và cung cấp thông tin, và về phía con người, chúng ta cần mọi người trao quyền để xác định khi một cái gì đó không đúng và bước vào để khắc phục nó.