Những điều tốt nhất trong cuộc sống Don Quy mô

Các từ thông dụng lớn nhất trong công nghệ sẽ thất bại vì chúng chỉ quy mô don.

Khi chúng ta đổi mới nhanh chóng với công nghệ mới, chúng ta phải ghi nhớ liệu những đổi mới của chúng ta có thực tế và khả thi hay không. Trong một thế giới nơi chúng ta đếm số người dùng hàng nghìn và thời gian chạy tính bằng mili giây, điều đó quan trọng hơn bao giờ hết để đảm bảo quy mô công nghệ mới.

Đó là lý do tại sao nó gây sốc rằng ba từ thông dụng lớn nhất trong công nghệ hoàn toàn không mở rộng được.

Tất nhiên, tôi đã nói về ba loại mà dường như mọi tin tức công nghệ đều rơi vào ngày nay:

  1. Trí tuệ nhân tạo
  2. Blockchain
  3. Thực tế hỗn hợp (XR, AR / VR)

Dường như gần như tất cả mọi thứ đang sử dụng hoặc thêm những thứ này và điều đó thật điên rồ (và hoàn toàn không thể) để mở rộng các dịch vụ này.

Chúng tôi cần thêm phần cứng

Thiếu sót đầu tiên và quan trọng nhất vẫn là phần cứng. Không có gì bí mật rằng các yêu cầu phần cứng cho công nghệ đang tăng theo cấp số nhân theo từng năm, cả về giá cả và đặc điểm kỹ thuật. Điều này thực sự đang trở thành một yếu tố ngăn chặn việc áp dụng rộng rãi và trong trường hợp của blockchain, nó là một kẻ giết người.

Blockchain thường dựa vào các công cụ khai thác trên nền tảng của Google, đó là cách khai thác các khối và cho phép mạng thực hiện các nhiệm vụ cơ bản nhất (nghĩa là xác minh các giao dịch). Quá trình khai thác của Cameron là một thứ gì đó mà tôi đã giành được sâu sắc, nhưng nó liên quan đến việc thực hiện các chức năng mã hóa lớn, một quá trình được gọi là băm.

Vấn đề với băm là nó đòi hỏi một sức mạnh tính toán đáng kể; thực tế, một lượng lớn như vậy đang khai thác hiệu quả trên blockchain đòi hỏi phần cứng đặc biệt, là GPU hoặc ASIC. Để trở thành công cụ khai thác nhỏ nhất, bạn sẽ cần một GPU có thông số kỹ thuật cao (hãy để có thật, Intel HD Graphics là tiêu chuẩn của người tiêu dùng ngay bây giờ vì vậy về cơ bản mọi GPU ở trên mức cao đó) hoặc ASIC chuyên dụng. Điều này làm tăng một hóa đơn khá lớn, với hầu hết các thiết bị có giá hàng trăm đến hàng ngàn đô la mỗi đơn vị, không kể mức sử dụng điện cao mà Lừa coi là chi phí vận hành.

sự thiếu hụt GPU lớn của năm 2018

Điều này đã trở thành một yếu tố quan trọng, ngăn chặn việc áp dụng blockchain. Trên thực tế, vì lý do này, giá GPU tăng vọt và cổ phiếu hoàn toàn biến mất, khiến các công ty khai thác tiềm năng không có bất kỳ công cụ nào, làm sụp đổ ngành công nghiệp trò chơi PC và ngăn cản các nhà nghiên cứu truy cập vào phần cứng cao cấp. Ngay cả các nhà sản xuất GPU như Nvidia thu được lợi nhuận từ sự gia tăng cuối cùng đã lên tiếng về sự thiếu hụt nghiêm trọng là nguyên nhân trực tiếp của blockchain.

Một năm sau, hầu hết các công nghệ blockchain này đã biến mất và giá của các loại tiền điện tử lớn đã giảm xuống một phần tư giá trị của chúng. Mối quan tâm được tuyên bố rộng rãi nhất với blockchain là sự thất bại của nó đối với quy mô và phần cứng vẫn (và sẽ tiếp tục là) một yếu tố ngăn chặn trong việc mở rộng quy mô của công nghệ blockchain.

Tuy nhiên, vấn đề này không giới hạn ở blockchain. Trí tuệ nhân tạo cũng dựa trên cùng một phần cứng (GPU) và điều này cũng đang trở thành yếu tố ngăn chặn trong lĩnh vực đó; hầu hết các công ty khởi nghiệp sắp tới có thể đủ khả năng để xây dựng một trang trại GPU khổng lồ như Google, và việc mua sức mạnh tính toán từ các nhà cung cấp đám mây như AWS có mức tăng gấp 4 lần với hóa đơn máy chủ khổng lồ.

Với XR, vấn đề thậm chí còn bực tức hơn. Để chạy những trải nghiệm này, người tiêu dùng phải kết xuất hình ảnh và thiết bị của người tiêu dùng phải xử lý đầu vào cảm giác. Điều này đặt gánh nặng chủ yếu lên người tiêu dùng, điều này nghe có vẻ tuyệt vời đối với các doanh nghiệp muốn vào không gian XR nhưng gây ra vấn đề lớn với việc mở rộng quy mô.

Ví dụ, hãy để Lừa lấy Oculus VR. Oculus là một trong những tai nghe VR đầu tiên ra mắt và vẫn là một cái tên phổ biến trong lĩnh vực này, sau đó đã được Facebook mua lại và củng cố vị trí của họ trên thị trường.

Thông số kỹ thuật tối thiểu cực kỳ cao trên đỉnh cao dành cho Oculus; USB 3.0, GPU Nvidia tốt, RAM 8GB 8GB

Thật không may, Oculus gần như chỉ hoạt động trên máy tính để bàn, hơn nữa đòi hỏi thông số kỹ thuật GPU cao. Nó phải đối mặt với những cạm bẫy tương tự như blockchain và AI, nhưng với mối quan tâm lớn hơn nhiều: trong khi với AI, một doanh nghiệp chỉ có thể ném tiền vào cơ sở hạ tầng của họ để tạm thời giải quyết vấn đề, với XR, gánh nặng rơi vào người tiêu dùng. Chu kỳ áp dụng AR / VR dựa vào GPU của người tiêu dùng để trở nên phổ biến hơn và đặc điểm kỹ thuật cao hơn, cũng như chờ giá giảm xuống mức phù hợp với người dùng trung bình. Đó là một quá trình có thể có khả năng mất nhiều thập kỷ - trong khi Giám đốc điều hành của Nvidia, Jensen Huang tuyên bố rằng luật Moore Moore ủng hộ GPU, thời gian cần thiết cho sự phát triển đủ để tăng thông số kỹ thuật trong khi việc giảm giá vẫn còn vài năm.

Đối với ba từ thông dụng lớn nhất trong công nghệ, nó là một câu gây hại.

Thời gian chạy

Khi chúng ta nói về thời gian thực hiện trong điện toán, chúng ta thường có nghĩa là tính bằng mili giây, vì người dùng đã phát triển để mong đợi các tương tác tức thì.

Thật không may, đây hoàn toàn không phải là trường hợp của cả ba công nghệ trên.

Với blockchain, việc khai thác một khối duy nhất mất nhiều thời gian hơn và lâu hơn khi thời gian trôi qua. Nó đã đi đến điểm mà nó không còn có lợi cho các cá nhân khai thác tiền điện tử lớn và các nhóm khai thác đã bắt đầu gọi các cú đánh trên mạng. Đối với một công nghệ phi tập trung của người Viking, nó ủng hộ rất nhiều sự tập trung.

Nó cũng đánh vần số phận cho trường hợp sử dụng lớn nhất của blockchain (được cho là): tiền điện tử. Tiền điện tử phát triển mạnh về các giao dịch nhanh, không có cơ quan tập trung, xuyên biên giới và không có phí lớn.

Tuy nhiên, với sự thất bại của blockchain về quy mô và lượng thời gian (thời gian = điện) cần thiết để khai thác một khối, phí liên quan đến giao dịch đã tăng lên mức cao kỷ lục; ở đỉnh cao, Bitcoin đạt đến điểm mà phí liên quan đến hầu hết các giao dịch nhỏ lớn hơn chi phí giao dịch thực tế, khiến nó hoàn toàn vô dụng và hoàn toàn thất bại cho người tiêu dùng hàng ngày. Các giao dịch bắt đầu mất nhiều giờ và quy định do sự bỏ trốn, giá Bitcoin tăng khiến việc di chuyển Bitcoin qua biên giới trở nên khó khăn.

Tiền điện tử đã trở thành mọi thứ mà nó hứa sẽ phá hủy.

Với trí tuệ nhân tạo, có một vấn đề rất khác phát sinh. Thời gian suy luận cho nhiều mô hình quy mô lớn mất vài giây, nghe có vẻ như là một khoảng thời gian nhỏ nhưng bắt đầu tăng tốc và trở thành một con số chặn khi thảo luận về số lượng người dùng lên tới hàng nghìn.

Hơn nữa, các số liệu được trích dẫn cho thời gian suy luận từ hầu hết các mô hình là khó khăn - bạn đã phải đọc giữa các dòng, hay đúng hơn là dòng tiếp theo thường đọc các dòng như tìm thấy trên ngăn xếp GPU XYZ của chúng tôi, trong đó ngăn xếp GPU XYZ tốn vài ngàn đô la và phải hoàn toàn dành riêng cho nhiệm vụ suy luận duy nhất đó.

Google Ngăn xếp TPU TPU mà thường được sử dụng để đào tạo mô hình của họ

Tất nhiên, nghiên cứu đang được thực hiện ở đây, nhưng nghiên cứu được thực hiện gần như hoàn toàn tập trung vào thời gian đào tạo, điều mà tôi sẽ tranh luận là rất quan trọng. Đối với đào tạo, một tuần không phải là vấn đề lớn - bất kỳ startup nào cũng có thể dành một tuần để đào tạo một mô hình sẽ trở thành nền tảng cho hoạt động kinh doanh của họ.

Vấn đề lớn hơn nằm ở suy luận. Ở cấp độ gốc, việc đào tạo đòi hỏi sự suy luận - suy luận thường được trích dẫn là giai đoạn chuyển tiếp trên mạng của mạng và điều này phải xảy ra trong đào tạo trước khi tiến hành bối cảnh. Tuy nhiên, trong đào tạo, tất cả các dữ liệu cần được suy luận có sẵn ngay từ đầu.

Nói cách khác, toàn bộ lô có thể được xử lý cùng một lúc (nghĩa là 100 hình ảnh cùng một lúc), do tỷ lệ toán học - nhân một ma trận lớn hơn của một số ma trận hiệu quả hơn so với nhân một số ma trận của 1 ma trận (nói cách khác , nó hiệu quả hơn để làm nhiều hơn cùng một lúc). Điều này đi đến một điểm nhất định, tương tự như ý tưởng về lợi nhuận giảm dần trong kinh tế, nhưng vẫn còn việc đào tạo theo đợt cho phép chúng ta mở rộng suy luận về lượng lớn dữ liệu.

Thật không may, trong một ý nghĩa thực tế, xử lý hàng loạt hiếm khi xảy ra.

Thật hiếm khi một mô hình phải chạy suy luận trên 200 hình ảnh cùng một lúc; Nó có nhiều khả năng 200 hình ảnh được gửi để suy luận, giả sử, một phút. Sẽ có một nút cổ chai cứng trong thời gian suy luận trên mỗi hình ảnh; ngay cả thời gian suy luận, một phần ba giây (cực kỳ nhanh - đó là những lần được các mô hình nhanh nhất khoe khoang, chẳng hạn như mô hình dự đoán câu siêu tối ưu hóa của Gmail) sẽ chỉ dẫn đến 180 hình ảnh được xử lý mỗi phút. Ngay cả ở mức tải nhỏ 200 / phút, mô hình không thể mở rộng quy mô và để đánh giá tồn đọng đang phát triển, một thể hiện thứ hai phải được sinh ra để cân bằng.

Nó có một viên thuốc khó nuốt trong một thế giới nơi có tải trọng lớn; trên thực tế, Node nhánh Express đã bị cháy trước đây khi chỉ hỗ trợ vài nghìn kết nối / giây, tương tự như cơ sở dữ liệu NoQuery phổ biến đang bị chỉ trích vì có nút cổ chai ở vài nghìn giao dịch / giây.

một con đập mà Lốc đảm bảo sẽ vỡ

Nó có một con số chưa từng thấy trong thế giới AI, vốn gặp phải một nút thắt cứng với tốc độ vài trăm mỗi giây về các suy luận riêng biệt trên một ví dụ của một mô hình, ngay cả với các tối ưu hóa tiên tiến nhất bạn có thể thực hiện.

Với XR, có một vấn đề rất, rất khác. Vấn đề nằm ở sự đắm chìm - để ngâm và tránh thung lũng kỳ lạ, các tương tác phải diễn ra và kết xuất phải điều chỉnh nhanh hơn con người có thể nhận thấy. Nói cách khác, một vài trăm mili giây là đủ nhanh.

Với XR, chúng tôi đo lường mọi thứ với số lượng nhỏ mili giây. Chúng tôi đo độ trễ chấp nhận được dưới ~ 20ms (một con số mà nhiều game thủ sẽ không đồng ý, vì hơn 100 khung hình / giây và dưới mười ping được coi là bình thường đối với hầu hết các giàn khoan).

Nó có một con số vẫn còn là một nút cổ chai và là một nơi mà chúng ta không ở gần đó; Trong khi công nghệ XR tập trung mạnh vào điều này và nhiều bước đột phá đã đạt được trong lĩnh vực này về mặt đầu vào và kết xuất cảm giác thông thường, chúng tôi vẫn phải đối mặt với các vấn đề về mặt tương tác; chính xác, XR mở ra một loạt các khả năng tương tác mới, vô hạn mà hầu hết các động cơ có thể được xử lý rất nhanh bởi hầu hết các công cụ.

Công cụ hình ảnh Augmented ARCore từ khi được giới thiệu tại Google I / O 2018

Hơn nữa, để chạy tính năng tăng cường hình ảnh với bất kỳ thứ gì phức tạp hơn so với homography, độ trễ quá cao để được coi là có thể chấp nhận được bởi hầu hết các kinh nghiệm. Công cụ nhanh nhất mà chúng tôi đã thử nghiệm cho đến nay là Google ED ARC Augmented Images, sử dụng hình ảnh đồng nhất (có một bản demo Augmented Faces chậm hơn một chút và có độ trễ / độ trễ đáng chú ý).

Bản giới thiệu khuôn mặt ARCore Augmented

Nó là một vấn đề lớn

Chỉ trong hai năm qua, số lượng tiến bộ trong ba lĩnh vực này là không thể vượt qua.

Trong AI, chúng ta đã thấy thế hệ ngôn ngữ tự nhiên nhảy vọt với GPT-2, nơi đang đạt được danh tiếng là Imagenet của NLP. Nó mở ra một thế giới mới về khả năng xử lý văn bản. Chúng tôi cũng đã thấy các mạng tích chập và GAN ​​phát triển để áp dụng hình ảnh 4k và chúng tôi đang bước vào kỷ nguyên mà AI có thể bắt chước hình ảnh HD và tạo ra nội dung có thể tin được bằng mắt người.

Với blockchain, lĩnh vực này đã trở nên ít lầy lội hơn, với một số khoản tiền mặt bị lụi tàn và tạo thêm khoảng trống để tiếp xúc với các nền tảng hiện có. Steam đã tăng trưởng đáng kể trong năm ngoái, cùng với Stellar và việc sử dụng blockchain trong công nghệ thông thường. JPMorgan, BofA và Facebook đều đã công bố blockchain của họ và blockchain ứng dụng đang chứng kiến ​​sự gia tăng với các nền tảng như DLive đã bắt đầu đi theo xu hướng (DLive gần đây đã hình thành mối quan hệ đối tác với cá tính lớn nhất trên Youtube với nền tảng đầu tiên của người tạo).

Trong XR, chúng tôi đã thấy XR và AR cấp điện thoại trở thành hiện thực với nhiều cải tiến cho ARCore. Nó có thể tích hợp AI vào XR và phát triển các trải nghiệm cho phép một số mức độ tương tác của con người (chúng tôi chưa thể chạm vào vật lý, nhưng có những dự án cho phép tương tác khác, như Fiddler AR).

Đây là tất cả các lĩnh vực chịu tác động lớn, đáng kể đến tương lai của công nghệ và là nơi mà nền văn minh nhân loại đang diễn ra. Đây là những công nghệ không thể tác động đến nền kinh tế; họ xác định lại nó; họ không ủng hộ xã hội và tương tác; họ hồi sinh nó Nó làm cho một cuộc đại tu có thể của toàn bộ nền văn hóa của chúng ta, và ở cấp độ gốc, nó được gọi là một cuộc cách mạng công nghiệp khác.

Đối với một phong trào có sức ảnh hưởng lớn như vậy đối với công chúng rộng rãi, nó rất quan trọng và tối quan trọng rằng nó có thể mở rộng để hỗ trợ công chúng một cách dễ dàng. Cho đến khi điều này được thực hiện, nó cản trở việc áp dụng và tạo thành một rào cản cứng rắn để gia nhập về mặt đổi mới bên ngoài các tập đoàn lớn.

Tôi hy vọng sẽ thấy nhiều sự đổi mới trong việc nhân rộng các công nghệ này. Tại Epic.ai, chúng tôi tập trung vào phát triển các ứng dụng dựa nhiều vào AI và blockchain - chúng tôi đã quá quen thuộc với các giới hạn mở rộng; Đó là một vấn đề chúng tôi sẽ làm việc rất nhiều trong vài năm tới, và một vấn đề chúng tôi hy vọng ngành công nghiệp sẽ cùng nhau giải quyết.

Chào! I Wem Tomer, một doanh nhân và nhà sản xuất. Bạn có thể biết tôi từ Mevee, Crane, và Shots, Slides và bây giờ là nhà đầu tư thông minh.io trong số các sản phẩm khác mà tôi đã ra mắt! Bài viết này là một phần của loạt bài viết rộng rãi hơn mà tôi viết, chủ yếu dựa trên kinh nghiệm của tôi và chủ yếu được tạo ra từ ý kiến ​​của tôi và nhóm của tôi.

Tôi hy vọng điều này sẽ giúp bạn tránh mắc phải những lỗi tương tự tôi đã làm, và hãy nhớ tiếp tục vận chuyển!

Hãy vỗ tay nếu bạn thấy điều này có giá trị và hãy theo dõi tôi để viết nhiều hơn như thế này khi tôi chia sẻ những câu chuyện về sự phát triển phần mềm và tinh thần kinh doanh trong cuộc sống thực.

Câu chuyện này được xuất bản trong The Startup, ấn phẩm doanh nhân lớn nhất Medium Medium theo sau là +442.678 người.

Đăng ký để nhận những câu chuyện hàng đầu của chúng tôi ở đây.