Korisnik:Cokovlada/pesak

S Vikipedije, slobodne enciklopedije

Džefri Everest Hinton[uredi | uredi izvor]

Džefri Hinton
Hinton iz 2013.
Lični podaci
Puno imeDžefri Everest Hinton
Datum rođenja(1947-12-06)6. decembar 1947.[1]
Mesto rođenjaVimbldon,London,
ObrazovanjeKembridž univerzitet(VA) Univerzitet u Edinburgu(PhD)
Naučni rad
InstitucijaUniverzitet u Torontu

Gugl

Kernidž Melon univerzitet

Londonski univerzitetski koledž
UčeniciRičard Zemel[2]

Bernard Frej[3] Radford M. Neal[4] Ruslan Salahutdinov[5]

Ilija Sustkever[6]
MentoriHristofer Longuet-Higins[7][8][9]
Poznat poBekpropagacija

Bolcmanova mašina Duboko učenje

Kapsularne neuronske veze
NagradeAAAI Fellow (1990)

Rumelhartova nagrada (2001) IJSAI Nagrada za izvrsnost u istraživanju (2005) IEEE Nagrada Frenka Rozenbalta (2014) Džejms Klark Maksfel medalja (2016) BBVA Foundation Frontiers of Knowledge Award (2016)

Tjuringova nagrada (2018)

Džefri Everest Hinton CC FRS FRSC [10] (rođen 6. decembra 1947.) je englesko–kanadski kognitivni psiholog i računarski naučnik, najviše zapažen zbog svog rada na veštačkim neuronskim mrežama. Od 2013. godine radi za Gutl ( Gugl Mozak ) i na Univerzitetu u Torontu .

Godine 2017. je osnovao i postao glavni naučni savetnik Vektorskog instituta u Torontu. [11] [12]

Uz Davida Rumelharta i Ronalda J. Villiamsa, Hinton je ko-autor veoma citiranog članka objavljenog u 1986. koji je popularizovao bekpropagaciju algoritam za obuku višeslojne neuronske mreže[13], iako oni nisu bili prvi predloži pristup. [14] Neki Hintona vide kao vodeću ličnost u zajednici dubokog učenja, a neki ga nazivaju i "kumom dubokog učenja". [15] [16] [17] [18] [19] Dramatična prekretnica AlekNet -ovog prepoznavanja slike koju je dizajnirao njegov student Alek Krizhevski [20] za izazov ImidžNet-a 2012 [21] pomogla je u revoluciji u polju računarskog vida. [22] Hinton je dobio Tjuringovu nagradu za 2018. godinu zajedno s Iošua Bengiom i Ianom LeKunom za njihov rad na dubokom učenju. [23]

Hintona, zajedno sa Iošua Bengiom i Ianom LeKunom, neki nazivaju „ kumovima AI“ i „kumovima dubokog učenja“. [24] [25] [26] [27] [28] [29] [30]

Obrazovanje[uredi | uredi izvor]

Hinton se školovao na Kraljevskom Koledžeu u Kembridžu na kojem je diplomirao 1970. godine, iz eksperimentalne psihologije. Studije je nastavio na Univerzitetu u Edinburgu gde mu je dodeljen doktorat iz veštačke inteligencije 1978. za istraživanje koje je nadgledao Hristofer Longuet-Higins .

Karijera i istraživanja[uredi | uredi izvor]

Nakon doktorata radio je na Univerzitetu u Suseksu (nakon teških pokušaja da nađe finansiranje u Britaniji) [31], i radio je na Kalifornijskom univerzitetu, San Dijegu i univerzitetu Kernidž Melon. Bio je osnivač kompjuterske jedinice za računarska neurološka istraživanja Fondacije Getsbi na Univerzitetskom koledžu u Londonu i [32] profesor na odeljenju za računarske nauke na Univerzitetu u Torontu. Ima kanadsku katedru za istraživanje mašinskog učenja, a trenutno je savetnik programa Učenje u mašinama i mozgu pri kanadskom institutu za napredna istraživanja. Hinton je u obrazovnoj platformi Coursera 2012. predavao besplatan online kurs o Neuronskim vezama. [33] Hinton se pridružio Guglu u martu 2013. godine kada je njegova kompanija DiEnEn Risrč Ink. planirala da "podeli svoje vreme između univerzitetskog istraživanja i njegovog rada na Guglu". [34]

Hintonovi radovi istražuju načine korišćenja neuronskih mreža za mašinsko učenje, memoriju, percepciju i obradu simbola. Autor je ili koautor preko 200 recenziranih publikacija.

Dok je Hinton bio profesor na Univerzitetu Kenridž Melon (1982–1987), Dejvid E. Rumelhart i Hinton i Ronald J. Vilijams primenjivali su algoritam povratnog širenja na višeslojne neuronske mreže. Njihovi eksperimenti su pokazali da takve mreže mogu naučiti korisne interne prikaze podataka. [13] U intervjuu iz 2018. godine [35] Hinton je rekao da je David E. Rumelhart smislio osnovnu ideju povratnog širenja, pa je to njegov izum. Iako je ovaj rad bio važan u popularizaciji retropropagacije, nije prvi predložio takav pristup. [14] Automatsko razlikovanje u obrnutom režimu, od čega je povratno širenje poseban slučaj, predložio je Sepo Linainma 1970. godine, a Paul Verbos je predložio da ga koristi za treniranje neuronskih mreža 1974. godine.

U istom periodu Hinton je zajedno sa Dejvidom Aklijem i Terijem Sejnovskim izumeo bolcmanove mašine. [36] Njegovi drugi doprinosi istraživanju neuronske mreže uključuju distribuirane reprezentacije, vremensku odgodu neuronske mreže, mešavine stručnjaka, helmholtove mašine i Produkt of Eksperts. U 2007. godini Hinton je napisao članak o nenadgledanom učenju pod nazivom Nenadzirano učenje transformacija slike. [37] Pristup uvodu u istraživanje reija Hintona nalazi se u njegovim člancima u časopisu Sajentifik Amerikan u septembru 1992. i oktobru 1993. godine. [38]

U oktobru i novembru 2017. Hinton je objavio dva istraživačka rada otvorenog pristupa [39] [40] o temi neuronskih mreža kapsula, koji su, prema Hintonovim rečima, „konačno nešto što dobro funkcioniše“. [41]

Ugledni bivši doktoranti i postdoktorski istraživači iz njegove grupe uključuju Rčarda Zemela, Brendana Freia, Radforda M. Neal, Ruslana Salakhutdinova, Iljiu Sutskever, Iana LeKjuna [42] i Zoubina Ghahramania.

Nagrade i priznanja[uredi | uredi izvor]

S leva na desno Ruslan Salahutdiov, Ričard S. Suton, Džefri Hinton, Ioshua Bengio i Stiv Jurvetson u 2016. godini

Hinton je izabran dobitnik nagrade Lice Visokog Društva (FRS) iz 1998.[10] On je prvi dobitnik Rumelhartove Nagrade 2001.[43] Njegov setifikat za izbor nagrade Kraljevskog (visokog) govori:

Džefri E. Hinton je međunarodno uvažen zbog svojeg rada na veštačkim neuronskim mrežama, pogotovo kako one mogu biti projektovane da uče bez ljudskog učitelja. Ovo može biti početak samostalnog inteligentnog sistema koji nalikuje mozgu. On je uporedio posledice povreda mozga sa efektima gubitaka u takvoj mreži, i pronašao sličnosti sa čovekovim prepoznavanjem imena i gubitaka kategorizacije. Njegov posao obuhvata studije mentalnih slika, i pronalaženje načina za testiranje originalne i kreativne inteligencije. On spaja veštine i napore da napravi ozbiljan posao i ostvari interese.[44]

Godine 2001. Hinton je nagrađen počasnim doktoratom na Univerzitetu u Edinburgu. [45] Bio je dobitnik nagrade IJCAI 2005. za nagradu za životno delo u istraživačkoj izvrsnosti. [traži se izvor] Takođe je nagrađen zlatnom medaljom Herzberg Kanada iz 2011. za nauku i inženjerstvo. [46] 2013. godine Hinton je nagrađen počasnim doktoratom sa Univerziteta de Šerbruk. [traži se izvor]

Godine 2016. izabran je za stranog člana Nacionalne inženjerske akademije „Za doprinos teoriji i praksi veštačkih neuronskih mreža i njihovoj primeni u prepoznavanju govora i računarskom vidu“. [47] Takođe je dobio 2016. IEEE / RSE Volfson Džejms Klark Makvsfel nagradu. [48]

Osvojio je nagradu BBVA nagradu fondacije Frontiers za znanje (2016) u kategoriji informacione i komunikacione tehnologije "za svoj pionirski i veoma uticajan rad" za obdarenje mašina sa sposobnošću učenja. [traži se izvor]

Zajedno s Ianom LeKjunom i Ioshua Bengiom, Hinton je 2018. osvojio Tjuring nagradu za konceptualne i inženjerske proboje koji su duboke neuronske mreže učinili kritičnom komponentom računarstva. [49] [50] [51]

Lični život[uredi | uredi izvor]

Hinton je praunuk i logista Džordža Bula čiji je rad na kraju postao jedan od temelja moderne računarske nauke, i hirurga i pisca Džejmsa Hintona. [52] koji je bio otac Čarlsa Hovarda Hintona. Hintonov otac bio je Hovard Hinton. [53] Njegovo srednje ime je od drugog rođaka, Džordža Everesta. [31] On je nećak ekonomista Kolina Klarka. [54] Prvu suprugu je zbog raka jajnika izgubio 1994. godine. [55]

Hinton se preselio iz SAD-a u Kanadu zbog razočaranja politikom Ronalda Reagana i neodobravanjem vojnog finansiranja veštačke inteligencije. [31]

Hinton je podneo molbu protiv smrtonosnog autonomnog oružja. Što se tiče egzistencijalnog rizika od veštačke inteligencije, Hinton obično odbija da predviđa više od pet godina u budućnost, primećujući da eksponencijalni napredak čini neizvesnost prevelikom. [56] Međutim, u neformalnom razgovoru sa istraživačem rizika od AI Nikom Bostromom u novembru 2015., koji je čuo novinar Rafi Katchadaurian, [57] on je, kako se izveštava, izjavio da nije očekivao da će opšti AI biti postignut decenijama („Najkasnije do 2070. "), I da je, u kontekstu dihotomije koju je Bostrom ranije uveo između ljudi koji misle da je upravljanje egzistencijalnim rizikom veštačke inteligencije verovatno beznadežno naspram dovoljno lako da će se automatski rešiti, Hinton" je u taboru koji je beznadan. " Izjavio je: „Mislim da će ga politički sistemi koristiti da terorišu ljude“ i izrazio je uverenje da agencije poput Nacionalne agencije za bezbednost (NSA) već pokušavaju da zloupotrebe sličnu tehnologiju.

Na pitanje Nika Bostroma zašto nastavlja istraživanje uprkos ozbiljnoj zabrinutosti, Hinton je izjavio: "Mogao bih da vam dam uobičajene argumente. Ali istina je da je mogućnost otkrića previše slatka. " [57]

Prema istom izveštaju, Hinton kategorički ne isključuje ljudska bića koja kontrolišu veštačku superinteligenciju, ali upozorava da "ne postoje dobri podaci o manje inteligentnim stvarima koje kontrolišu stvari veće inteligencije". [57]

Reference[uredi | uredi izvor]

  1. ^ Anon (2015) Hinton, Prof. Geoffrey Everest. Who's Who (online Oxford University Press izd.). A & C Black, an imprint of Bloomsbury Publishing plc.  doi:10.1093/ww/9780199540884.013.20261 (potrebna pretplata)
  2. ^ Zemel, Richard Stanley (1994). A minimum description length framework for unsupervised learning (Teza). University of Toronto. OCLC 222081343. ProQuest 304161918. 
  3. ^ Frey, Brendan John (1998). Bayesian networks for pattern classification, data compression, and channel coding (Teza). University of Toronto. OCLC 46557340. ProQuest 304396112. 
  4. ^ Neal, Radford (1995). Bayesian learning for neural networks (Teza). University of Toronto. OCLC 46499792. ProQuest 304260778. 
  5. ^ Salakhutdinov, Ruslan (2009). Learning deep generative models (Teza). University of Toronto. ISBN 9780494610800. OCLC 785764071. ProQuest 577365583. 
  6. ^ Sutskever, Ilya (2013). Training Recurrent Neural Networks (Teza). University of Toronto. OCLC 889910425. ProQuest 1501655550. 
  7. ^ Cokovlada/pesak na sajtu MGP (jezik: engleski)
  8. ^ Geoffrey E. Hinton's Academic Genealogy
  9. ^ Gregory, R. L.; Murrell, J. N. (2006). „Hugh Christopher Longuet-Higgins. 11 April 1923 -- 27 March 2004: Elected FRS 1958”. Biographical Memoirs of Fellows of the Royal Society. 52: 149—166. doi:10.1098/rsbm.2006.0012. 
  10. ^ a b Anon (1998). „Professor Geoffrey Hinton FRS”. London: Royal Society. Arhivirano iz originala 3. 11. 2015. g.  One or more of the preceding sentences incorporates text from the royalsociety.org website where:

    "All text published under the heading 'Biography' on Fellow profile pages is available under Creative Commons Attribution 4.0 International License." --„Royal Society Terms, conditions and policies”. Arhivirano iz originala 11. 11. 2016. g. Pristupljeno 2016-03-09. 

  11. ^ Daniela Hernandez (7. 5. 2013). „The Man Behind the Google Brain: Andrew Ng and the Quest for the New AI”. Wired. Pristupljeno 10. 5. 2013. 
  12. ^ „Geoffrey E. Hinton – Google AI”. Google AI (na jeziku: engleski). 
  13. ^ a b Rumelhart, David E.; Hinton, Geoffrey E.; Williams, Ronald J. (9. 10. 1986). „Learning representations by back-propagating errors”. Nature (na jeziku: engleski). 323 (6088): 533—536. Bibcode:1986Natur.323..533R. ISSN 1476-4687. doi:10.1038/323533a0. 
  14. ^ a b Schmidhuber, Jürgen (2015-01-01). „Deep learning in neural networks: An overview”. Neural Networks. 61: 85—117. PMID 25462637. arXiv:1404.7828Slobodan pristup. doi:10.1016/j.neunet.2014.09.003. 
  15. ^ „Geoffrey Hinton was briefly a Google intern in 2012 because of bureaucracy – TechCrunch”. techcrunch.com (na jeziku: engleski). Pristupljeno 28. 3. 2018. 
  16. ^ Somers, James. „Progress in AI seems like it's accelerating, but here's why it could be plateauing”. MIT Technology Review (na jeziku: engleski). Pristupljeno 28. 3. 2018. 
  17. ^ „How U of T's 'godfather' of deep learning is reimagining AI”. University of Toronto News (na jeziku: engleski). Pristupljeno 28. 3. 2018. 
  18. ^ „'Godfather' of deep learning is reimagining AI”. Pristupljeno 28. 3. 2018. 
  19. ^ „Geoffrey Hinton, the 'godfather' of deep learning, on AlphaGo”. Macleans.ca (na jeziku: engleski). 18. 3. 2016. Pristupljeno 28. 3. 2018. 
  20. ^ Dave Gershgorn (18. 6. 2018). „The inside story of how AI got good enough to dominate Silicon Valley”. Quartz. Pristupljeno 5. 10. 2018. 
  21. ^ Krizhevsky, Alex; Sutskever, Ilya; Hinton, Geoffrey E. (3. 12. 2012). „ImageNet classification with deep convolutional neural networks”. Nips'12. Curran Associates Inc.: 1097—1105. 
  22. ^ „How a Toronto professor's research revolutionized artificial intelligence | Toronto Star”. thestar.com (na jeziku: engleski). Pristupljeno 13. 3. 2018. 
  23. ^ 27 Mar, Emily Chung · CBC News · Posted; March 27, 2019 6:00 AM ET | Last Updated. „Canadian researchers who taught AI to learn like humans win $1M award | CBC News”. CBC (na jeziku: engleski). Pristupljeno 27. 3. 2019. 
  24. ^ „'Godfathers of AI' honored with Turing Award, the Nobel Prize of computing”. 27. 3. 2019. 
  25. ^ „'Godfathers of AI' honored with Turing Award, the Nobel Prize of computing”. 27. 3. 2019. 
  26. ^ „Godfathers of AI Win This Year's Turing Award and $1 Million”. 29. 3. 2019. 
  27. ^ https://www.telegraph.co.uk/technology/2019/03/27/google-awards-1m-turing-prize-godfathers-ai/
  28. ^ https://www.forbes.com/sites/samshead/2019/03/27/the-3-godfathers-of-ai-have-won-the-prestigious-1m-turing-prize/
  29. ^ https://www.zdnet.com/article/deep-learning-godfathers-bengio-hinton-and-lecun-say-the-field-can-fix-its-flaws/
  30. ^ https://www.bloomberg.com/news/articles/2019-03-27/three-godfathers-of-deep-learning-selected-for-turing-award
  31. ^ a b v Smith, Craig S. (23. 6. 2017). „The Man Who Helped Turn Toronto into a High-Tech Hotbed”. The New York Times. Pristupljeno 27. 6. 2017. 
  32. ^ https://www.cs.toronto.edu/~hinton/fullcv.pdf
  33. ^ „Archived copy”. Arhivirano iz originala 31. 12. 2016. g. Pristupljeno 30. 12. 2016. 
  34. ^ „U of T neural networks start-up acquired by Google” (Saopštenje). Toronto, ON. 12. 3. 2013. Pristupljeno 13. 3. 2013. 
  35. ^ Ford, Martin (2018). Architects of Intelligence: The truth about AI from the people building it. Packt Publishing. ISBN 978-1-78913-151-2. 
  36. ^ Ackley, David H; Hinton Geoffrey E; Sejnowski, Terrence J (1985), "A learning algorithm for Boltzmann machines", Cognitive science, Elsevier, 9 (1): 147–169
  37. ^ Hinton, Geoffrey E. „Geoffrey E. Hinton's Publications in Reverse Chronological Order”. 
  38. ^ „Stories by Geoffrey E. Hinton in Scientific American”. 
  39. ^ Sabour, Sara; Frosst, Nicholas; Hinton, Geoffrey. October 2017. "Dynamic Routing Between Capsules"
  40. ^ "Matrix capsules with EM routing" 3 November 2017. OpenReview.net
  41. ^ Geib, Claudia. 2 November 2017. "We’ve Finally Created an AI Network That’s Been Decades in the Making" Futurism.com
  42. ^ „Yann LeCun's Research and Contributions”. yann.lecun.com. Pristupljeno 13. 3. 2018. 
  43. ^ „Current and Previous Recipients”. David E. Rumelhart Prize. Arhivirano iz originala 2. 3. 2017. g. 
  44. ^ Anon (1998). „Certificate of election EC/1998/21: Geoffrey Everest Hinton”. London: Royal Society. Arhivirano iz originala 5. 11. 2015. g. 
  45. ^ „Distinguished Edinburgh graduate receives ACM A.M. Turing Award”. Pristupljeno 9. 4. 2019. 
  46. ^ „Artificial intelligence scientist gets M prize”. CBC News. 14. 2. 2011. 
  47. ^ „National Academy of Engineering Elects 80 Members and 22 Foreign Members”. NAE. 8. 2. 2016. 
  48. ^ „2016 IEEE Medals and Recognitions Recipients and Citations” (PDF). IEEE. Pristupljeno jul 7, 2016.  Proverite vrednost paramet(a)ra za datum: |access-date= (pomoć)
  49. ^ „Vector Institutes Chief Scientific Advisor Dr.Geoffrey Hinton Receives ACM A.M. Turing Award Alongside Dr.Yoshua Bengio and Dr.Yann Lecun”. NAE. 27. 3. 2019. 
  50. ^ „Three Pioneers in Artificial Intelligence Win Turing Award”. New York Times. 27. 3. 2019. Pristupljeno 27. 3. 2019. 
  51. ^ „Fathers of the Deep Learning Revolution Receive ACM A.M. Turing Award - Bengio, Hinton and LeCun Ushered in Major Breakthroughs in Artificial Intelligence”. Association for Computing Machinery. 27. 3. 2019. Pristupljeno 27. 3. 2019. 
  52. ^ The Isaac Newton of logic
  53. ^ Salt, George (1978). „Howard Everest Hinton. 24 August 1912-2 August 1977”. Biographical Memoirs of Fellows of the Royal Society. 24: 150—182. ISSN 0080-4606. doi:10.1098/rsbm.1978.0006Slobodan pristup. 
  54. ^ Shute, Joe (26. 8. 2017). „The 'Godfather of AI' on making machines clever and whether robots really will learn to kill us all?”. The Telegraph. Pristupljeno 20. 12. 2017. 
  55. ^ Shute, Joe (26. 8. 2017). „The 'Godfather of AI' on making machines clever and whether robots really will learn to kill us all?”. The Telegraph. Pristupljeno 30. 1. 2018. 
  56. ^ Hinton, Geoffrey. „Lecture 16d The fog of progress” (PDF). 
  57. ^ a b v Khatchadourian, Raffi (16. 11. 2015). „The Doomsday Invention”. The New Yorker. Pristupljeno 30. 1. 2018.