Kendi öğretmeniniz: Algoritmalar insan yardımı olmadan nasıl öğrenir ve dronları daha iyi hale getirir

Беспилотный транспорт, цифровые двойники и автоматическое управление телекоммуникациями — это не

предсказания писателей-фантастов, а уже öngörülebilir gelecek. Uygulamalı yapay zeka ve takviyeli öğrenme alanında araştırma yapan bilim adamları tarafından yakınlaştırılıyor. Hi-Tech, her yıl Segalovich Ödülü'nü kazanan Oleg Svidchenko, Alexander Grishin ve Alexey Shpilman ile teknolojinin geleceği hakkında konuştu.

Yapay zeka bir akıl hocası olmadan nasıl öğrenir?

pekiştirmeli öğrenme,RL), AI'nın kendisinin belirli bir ortamla etkileşime girdiğini varsayar - örneğin, Go oyunu için bir tahta veya robot hareket ederse dış dünya. Aygıtın, görevleri gerçekleştirirken ortak kalıpları tanımlaması ve bunlara odaklanması gerekir. Ve bir "öğretmen" ile öğrenirken, AI'nın eğiteceği doğru eylemi belirtmesi gereken bir kişiye ihtiyacınız var.

“RL'nin özü, makinenin veya dediğimiz gibi,ajan, sürekli uygulama modunda öğrenir”, diyor Yandex Bilim Ödülü sahibi Oleg Svidchenko. - AI belirli koşullara yerleştirilir ve "deyin" - harekete geçin. Bu, bir farenin labirentte peynir aramaya gittiği duruma benzer. Yanlış yöne dönen hayvan, duvara çarpar, geri döner, tekrar dener, vb. Takviyeli öğrenme durumunda, doğru adımlar ödüllendirilir. Eylem ne kadar doğru olursa, AI o kadar fazla puan alır. Seçimin yanlış olduğu ortaya çıkarsa, temsilci puan kaybeder. Eğitim sırasında makine, hangi eylem kombinasyonunun daha karlı olduğunu hatırlar ve bir dahaki sefere onu kullanır.”

Çözüm için bağımsız arama, aracıya izin verirer ya da geç adamı geçer. Bu, örneğin, düzinelerce eski Atari video oyunu, satranç ve Go tipi masa oyunu oynamayı öğrenen DeepMind'in MuZero algoritması tarafından gösterildi. Bunu oluşturmak için şirketin önceki gelişmelerini kullandılar: örneğin, Go şampiyonu Lee Sedol'u yenmenin mümkün olduğu AlphaGo ve satrançta kullanılan AlphaZero. Geliştirilmiş algoritma, daha az veriden daha fazla bilgi çıkarır - şimdi eğitim adımlarının yarısına ihtiyaç duyar.

Takviyeli öğrenme algoritmalarıçeşitli endüstrilerde kullanışlıdır. Örneğin, tıpta - kişiselleştirilmiş dinamik tedaviyi organize etmek için, eğlence endüstrisinde - bilgisayar oyunlarının otomatik olarak test edilmesi için veya havacılıkta - bir stratosferik balonun otonom kontrolü için.

AI hangi alanlarda insanların yardımına gelecek?

Perakendenin dijitalleşmesi: tam otomatik mağazalar

Endüstrilerde makine öğrenimini ilk uygulayanbüyük miktarda veri toplama ve sayısallaştırma sürecinin hata ayıklandığı yer. Örneğin, perakendede tüm bilgiler yazar kasalardan geçer, bu da AI'nın çalışacak bir şeyi olduğu anlamına gelir. Alexey Shpilman'a göre, AI algoritmalarının kullanılması, tüm süreçlerin insan müdahalesi olmadan gerçekleşeceği her yerde otomatikleştirilmiş mağazalar oluşturmayı mümkün kılacaktır.

Bu biçim 2016'da test edildi.Amazon şirketi. Alıcı sepeti alır, içindeki malları alır ve sadece ayrılır - satın alma parası otomatik olarak karttan borçlandırılır. Rusya'da da benzer bir proje Azbuka Vkusa tarafından geliştirildi.

“Alıcı arabayı alır, içindeki malları alır ve sadece ayrılır - satın alma parası otomatik olarak karttan borçlandırılır”

Управление электросвязью: выявление неисправностей в сетях 

pekiştirmeli öğrenme sayesindetelekomünikasyon, ısıtma ağları, elektrik enerjisi endüstrisi gibi çeşitli ağların yönetiminde teknolojik atılımlar meydana gelebilir. İnsanlarla fazla etkileşim olmadığı için buradaki birçok işlemi robotize etmek oldukça kolaydır.

Автоматизация приведет к созданию систем, которые будут принимать более взвешенные решения и оптимизировать расход энергии. Например, на основе алгоритмов RL разрабатывается контроллер ОВиК (акроним от англ. Heating, Ventilation, & Air Conditioning — Отопление, вентиляция и кондиционирование воздуха) — это система управления температурой и вентиляцией помещения. Использование этой технологии на предприятиях поможет как экономить энергопотребление, так и сокращать выбросы углерода.

İnsansız Araçlar: Test Teknolojisi ve Mevzuat

sayesinde atılım bekleyen bir diğer alantakviye öğrenme - ulaşım. Zaten bugün sokaklarda insansız araçlar ve teslimat robotları bulunabilir. Sektördeki teknolojik gelişmelere rağmen, McKinsey analistleri, insansız hava araçlarının en erken 2030 yılına kadar ana akım haline gelmeyeceğini tahmin ediyor. Uygulama, düzenlemeler geliştirme ihtiyacı nedeniyle karmaşıktır. Singapur ve Amerika Birleşik Devletleri'nde, otoyollar boyunca otomatik ulaşım zaten tüm hızıyla devam ediyor ve son zamanlarda Rusya'da insansız bir taksiyi test etmek için izin çıktı.

«Автоматизация почти всегда повышает уровень безопасности, но внедрение таких технологий люди встречают с опасением, — уверен Олег Свидченко. — Если заменить весь транспорт на беспилотные Tesla, то количество аварий на дорогах упадет в несколько раз. Но каждая авария будет вызывать много вопросов. Мы не можем однозначно сказать, как в случае с человеком, что стало причиной ДТП. И людей страшит эта неизвестность».

“Takviyeli öğrenme sayesinde atılım bekleyen bir diğer alan da ulaşım”

Dijital ikizler insanlığa nasıl faydalı olacak?

Алгоритмы обучения с подкреплением позволили создавать цифровых двойников — виртуальные прототипы объектов, процессов и даже людей, которые содержат в себе те же свойства и характеристики, что и оригиналы. Такую технологию используют промышленные предприятия — например, чтобы перед запуском нового конвейера проверить, правильно ли отлажены все процессы. Конечно, можно сразу вставить вилку в розетку, но если произойдет сбой, на его устранение уйдут время и ресурсы. Поэтому конвейер предварительно запускают на компьютере. 

İnsan dijital ikizleriyle her şey çok daha iyidaha zordur, çünkü canlı bir organizma daha karmaşık bir sistemdir. Yine de bilim adamları, hem bireysel organların hem de tüm organizmanın sanal kopyalarını oluşturarak teknolojide ustalaşmaya devam ediyor. Örneğin, bir Boston hastanesi, ameliyatları planlamak için kalbin dijital ikizini kullanır. Gelecekte bu, tedavi yöntemlerini sanal bir hasta üzerinde test etmeye, hastalıkları tahmin etmeye izin verecek ve tıpta bir devrim olduğunu iddia edebilir.

“RL dahil olmak üzere AI'nın gelişimi,insanların kendilerini daha iyi anlamaya başlayacakları gerçeği,” diyor Aleksey Shpilman. “İnsan kapalı bir sistemdir, çünkü biz kendi beynimizi kendimizi tanımak için kullanırız. Ama bu araç bizim için yeterli mi? Psikolojide bile düşünmek için iki kişiye ihtiyaç vardır ve biz kendi içimize kapanmışızdır. Küresel olarak, Evren bağlamında insanlık hala yalnızdır, bu da kendimiz hakkında yeni bir şeyler öğrenmek ve dışarıdan bakmak için konuşacak kimsemiz olmadığı anlamına gelir. Belki pekiştirmeli öğrenme sayesinde kendi dışımızda bir tür varlık yaratacağız. Beynimiz ve bilincimizle sınırlı kalmayacak, insana yeni cevaplar ve anlamlar kazandırabilecektir.”

RL'nin yaygın olarak uygulanması neden hala sınırlıdır?

Несмотря на успехи, которых добились ученые, практическое применение RL пока ограничено. Система долго учится, много ошибается, поэтому повсеместно внедрять алгоритм — сложно и нерентабельно.

"Ajan daha fazla tekrara ihtiyaç duyar, bu yüzden süreçöğrenme oldukça uzun sürüyor, - diye açıklıyor Alexander Grishin - Ayrıca, yapay zekanın en iyi eylemi gerçekleştirmesi yeterli değil. Çevreyi keşfetmesi gerekiyor, çünkü şu anda çekici olmayan hareketlerin arkasında büyük bir ödül saklı olabilir. Takviyeli öğrenmenin tüm mantığı, yapay zekanın uzun vadeli başarı için kısa vadeli faydaları feda etmeyi öğrenmesine dayanır. Bunu yapmak için ileriyi düşünmeniz ve olayların gelişimi için olası senaryoları hesaplamanız gerekir. Örneğin ajan kraliçeyi yakalamak için şövalyeden vazgeçtiğinde bilim adamları çok mutlu olacaklar.”

Задача ученых — добиться того, чтобы у ИИ вырос темп обучения и улучшилась способность к анализу. Но быстро продвинуться вперед мешает одна приземленная проблема: в R&D лабораториях и ИТ-компаниях есть кадровый голод. Университеты создают лаборатории и научные центры, технологические гиганты открывают специализированные курсы.

“Şimdi makine öğreniminde araştırma yapınçok talep görüyor. Sektör hızla gelişiyor ve personel sıkıntısı her geçen gün artıyor” diyor Alexey Shpilman. “Uzmanların dünyayı tanınmayacak kadar değiştirecek süreçlere dahil olma şansı büyük. Bir sürü ilginç çalışma. Şimdi yolun en başındayız, ancak şimdiden iyi sonuçlar elde ettik. RL kullanımı yoluyla insanlık için hangi umutların açılacağını hayal edebiliyor musunuz?

Daha fazla oku:

Uzay sondası Merkür'den 200 km uçtu. bak ne gördü

Bilim adamları, vitaminlerin kanser insidansını nasıl etkilediğini ortaya çıkardı

Çinli zihin okuma kaskı, bir kişi porno içeriği gördüğünde alarm veriyor