Đưa AI từ đám mây vào các ngành công nghiệp, máy móc và thiết bị
21/10/2020
Công nghệ AI đang phát triển một cách vượt bậc. Mỗi giây, trong các cơ sở chăm sóc khẩn cấp, đường phố, cửa hàng bán lẻ và sàn nhà máy, hàng tỷ cảm biến IoT đang tải lên hàng terabyte dữ liệu chứa thông tin có giá trị để thúc đẩy các quyết định quan trọng trong thời gian thực. Để thực hiện loại công việc này một cách an toàn, bảo mật và hiệu quả, chúng ta cần các nền tảng AI có thể mở rộng và tăng tốc tại thời điểm hành động.
Hiện nay chúng ta đang sống trong một thế giới mà mọi thứ ngày càng được điều khiển bằng dữ liệu. Các luồng dữ liệu đa dạng được tạo liên tục từ nhiều vị trí và độ trễ là nhược điểm cố hữu của các hệ thống đám mây, nó càng làm trầm trọng thêm thách thức khi triển khai các hệ thống máy thông minh và thu được kết quả theo thời gian thực.
Điện toán biên hoạt động như một cầu nối hiệu suất cao từ các máy tính cục bộ đến đám mây. Và vì tất cả dữ liệu được tạo bởi các thiết bị IoT sẽ được lưu trữ, xử lý, phân tích và hoạt động ở gần hoặc ở biên của mạng, nên chắc chắn rằng điện toán biên sẽ tiếp tục đóng một vai trò nổi bật.
Tại giao điểm của đồ họa, HPC và AI
Những gã khổng lồ công nghệ trên toàn thế giới đang hành động nhanh chóng để đưa AI tới biên, và NVIDIA là một trong những doanh nghiệp tiên phong hàng đầu trong lĩnh vực này. Công ty bắt đầu tập trung chủ yếu vào phần cứng gaming, đặc biệt là thiết kế và sản xuất các đơn vị xử lý đồ họa (GPU). Tuy nhiên, kể từ năm 2014, NVIDIA đã mở rộng sang các lĩnh vực khác như trung tâm dữ liệu, trực quan hóa chuyên nghiệp và máy tự động. Gần đây hơn, thành công của NVIDIA trong lĩnh vực điện toán hiệu suất cao (HPC) và AI được nhấn mạnh bởi thực tế là hầu hết 500 siêu máy tính hàng đầu thế giới đều được tăng tốc bằng GPU NVIDIA, hiện hỗ trợ các trường hợp sử dụng quan trọng trong việc quản lý dữ liệu lớn, tạo hệ thống đề xuất, xây dựng công nghệ AI đàm thoại thời gian thực và hơn thế nữa.
Trong bài phát biểu quan trọng của mình tại Hội nghị Đối tác toàn cầu IoT Công nghiệp năm 2020 của Advantech, ông Deepu Talla, phó chủ tịch kiêm tổng giám đốc mảng điện toán biên tại NVIDIA, nhận xét rằng: “Hiện tại, NVIDIA đang làm việc ở giao điểm của đồ họa, HPC và AI, tất cả cùng lúc”. Thật vậy, trong ít nhất 5 năm qua, người tiêu dùng ngày càng phụ thuộc nhiều hơn vào AI. Tất cả các thiết bị tiêu dùng thông minh đều được hỗ trợ AI. Apple Siri, Google Assistant và các công cụ đề xuất thúc đẩy của Netflix và Spotify chỉ là một vài ví dụ nổi tiếng. Tuy nhiên, AI hầu như chỉ hoạt động trên đám mây cho đến gần đây.
Điều này là không đủ. Chúng ta cần đưa AI lên một vị trí cao hơn để đáp ứng sức mạnh tính toán khổng lồ cần thiết để triển khai AIoT và các ứng dụng mới nổi khác trên toàn thế giới. Các công ty như Samsung đang sản xuất máy kiểm tra quang học tự động (AOI) bằng cách sử dụng AI tại chỗ thay vì trên đám mây, trong khi Tập đoàn BMW đang tái định hình công tác hậu cần nhà máy bằng cách sử dụng các robot hỗ trợ AI với phần mềm robot NVIDIA Isaac. Những công ty khác như Walmart đã áp dụng điện toán biên AI để tạo ra các cửa hàng thông minh cho tương lai và Microsoft đã hợp tác với NVIDIA để mở rộng nền tảng Azure Edge với GPU NVIDIA.
Xây dựng một hệ sinh thái để tăng tốc AI ở biên
Theo Tiến sĩ Talla, có hai yếu tố quan trọng cần thiết để đưa AI tới thành công. Đầu tiên, AI ở biên có nghĩa là đưa AI đến các máy cuối, đề cập đến các thiết bị cuối hỗ trợ AI như camera an ninh, ô tô tự lái và robot giao hàng. Thứ hai, có các thiết bị gần biên hoặc máy chủ tại chỗ hoạt động như thiết bị cổng và điểm tổng hợp; chúng không phải là một phần của đám mây nhưng nằm gần các thiết bị cuối.
NVIDIA đã thiết kế các nền tảng sáng tạo và xây dựng một hệ sinh thái được hỗ trợ bởi phần mềm an toàn, điện toán đám mây, được tối ưu hóa bằng AI để đẩy nhanh quá trình đưa AI từ đám mây tới biên. Ví dụ: tại Hội nghị Công nghệ GPU vào tháng 5, NVIDIA đã công bố hai sản phẩm mạnh mẽ cho nền tảng AI EGX Edge — EGX A100 dành cho các máy chủ thương mại lớn hơn và EGX Jetson Xavier NX nhỏ gọn dành cho các máy chủ siêu nhỏ - mang lại hiệu suất cao , xử lý AI an toàn ở biên để cung cấp sức mạnh cho làn sóng 5G mới và các ứng dụng robot.
NVIDIA cũng đã xây dựng các khuôn khổ ngành dọc đa dạng, làm việc với nhiều đối tác, nhà cung cấp phần mềm và ứng dụng, cũng như các nhà tích hợp hệ thống, để phát triển các sản phẩm cuối dành riêng cho từng ngành.
Các ví dụ bao gồm NVIDIA Metropolis để phân tích video thông minh, NVIDIA Clara Imaging cho hình ảnh y tế, NVIDIA DRIVE để lái xe tự động, NVIDIA Aerial cho mạng truy cập vô tuyến ảo 5G, NVIDIA Omniverse để tạo nội dung 3D và NVIDIA Isaac SDK cho robot.
Tại GTC 2020, NVIDIA cũng đã công bố hỗ trợ toàn diện cho các công nghệ gốc đám mây trên toàn bộ dòng sản phẩm Jetson đầy đủ của mình, nền tảng điện toán AI tiên tiến hàng đầu trong ngành với gần nửa triệu nhà phát triển. Nền tảng đám mây giúp các nhà sản xuất và nhà phát triển thực hiện các cải tiến thường xuyên, cải thiện độ chính xác và sử dụng các tính năng mới nhất với các thiết bị AI biên dựa trên nền tảng Jetson. Các nhà sản xuất máy thông minh và các nhà phát triển ứng dụng AI giờ đây có thể xây dựng, triển khai và cập nhật các tính năng chất lượng cao, do phần mềm xác định theo thời gian thực trên các thiết bị nhúng và thiết bị tiên tiến nhắm mục tiêu vào lĩnh vực robot, thành phố thông minh, chăm sóc sức khỏe, IoT công nghiệp và hơn thế nữa.
Là một đối tác ưu tiên, Advantech đã hợp tác với NVIDIA trong lĩnh vực phần mềm và dịch vụ AI, cũng như trong các dịch vụ thiết kế và phần cứng. Ví dụ, dòng sản phẩm Edge AI MIC Jetson của Advantech được cung cấp bởi dòng sản phẩm nền tảng NVIDIA Jetson đầy đủ, được hưởng lợi từ hiệu suất cao như một máy trạm GPU trong một mô-đun nhúng có khả năng tích hợp với đám mây. Dòng MIC Jetson là nền tảng phần cứng lý tưởng cho các ứng dụng thành phố thông minh, giao thông vận tải và sản xuất thông minh.
Tiến sĩ Talla chỉ ra rằng còn nhiều việc phải làm. Chúng ta chỉ mới ở thời kỳ sơ khai, mở ra khả năng vô hạn cho một tương lai hỗ trợ AI với sự hợp tác với các đối tác trên toàn thế giới. NVIDIA dẫn đầu trong lĩnh vực điện toán biên tiên tiến với sự kết hợp của IoT và AI đã khởi động cuộc cách mạng “mọi thứ thông minh”, nơi các ngành công nghiệp hiện có thể cung cấp các sản phẩm được kết nối một cách thông minh, nâng cấp và dịch vụ theo thời gian thực giống như ngành viễn thông làm với điện thoại thông minh. NVIDIA tiếp tục cố gắng xây dựng hệ sinh thái mà chúng ta hình dung, trong đó công nghệ của NVIDIA đóng vai trò quan trọng trong mọi thứ, từ kiến trúc chip và hệ thống thông qua phần mềm mô phỏng, thúc đẩy sự đổi mới của AI trong lĩnh vực chăm sóc sức khỏe, robot, trung tâm dữ liệu, thành phố thông minh, hậu cần thông minh, nhà máy thông minh, v.v.
/MIC-7700_Min20170302184011.JPG)
/MIC-770_Side _S20190325104539.jpg)
/HPC-7442_Front-Left_S20160330132651.jpg)
