Artificial intelligence

[Ice_2k]

Sper sa nu se mai fi discutat pe-undeva subiectul asta, daca da... sorry.
Deci ceea ce ma preocupa nu este daca este posibila realizarea AI (fiindca sigur se va realiza, mai devreme sau mai tarziu), ci urmarile sale... de exemplu daca vom pune niste astfel de ai-uri la controlul diferitelor baze militare or such... le vor pune niste directive de genu "n-ai voie sa faci prostii" si gata... dar daca ele avand propria lor constiinta ne vor scapa in final de sub control si nu vor mai vrea sa faca ce le ordonam noi ? Then what ??

[Strider]

de exemplu daca vom pune niste astfel de ai-uri la controlul diferitelor baze militare or such... le vor pune niste directive de genu "n-ai voie sa faci prostii" si gata... dar daca ele avand propria lor constiinta ne vor scapa in final de sub control si nu vor mai vrea sa faca ce le ordonam noi ?

Astea sunt scenarii apocaliptice de doi lei. Sa fim seriosi. Exista probleme mult mai serioase decat niste chestii fictionale care au fost folosite si ras-folosite in filme. Iar despre AI imi permit sa spun ca profan ca nu am ajuns nici macar la genunchiul broastei si ca probabil o sa ne mai trebuie vreo 50.000 de ani pana sa pricepem cat de cat cum sta treaba cu inteligenta... dup'aia ne putem gandi si la artificial.

[Ice_2k]

Stiu ca a fost foarte folosit subiectul in filme, dar chiar nu ti se pare c-ar putea avea si un sambure de adevar ?? Adica presupunand ca ar exista AI si oamenii ar face prostia sa-l puna la controlul unei chestii militare (avioane, missile silos & such...), chiar crezi ca l-am mai putea invinge ?? Mie mi se pare chiar f posibil ca intr-un viitor mai indepartat oamenii sa fie distrusi de tehnologia lor, scapata de sub control

[PigBrother]

Nu ar fi singura inventie omeneasca scapata de sub control din cauza imbecilitatii semenilor nostrii. Am votat: da.

[Daremyth]

Poate ca da, daca ar mai apuca... Insa o sa o distrugem noi insine inainte... Asa ca votez 3.

[NUKE[D]]

Nici cei mai idioti dintre idioti nu are construii un sistem dotat cu AI care nu poate fi controlat si oprit in cazul unor probleme....

E ca si cum ai construii o masina fara frane .

Am votat nu ...
O ia rasna sistemul u pull the plug....

[buggy_ro]

Vorbind serios amenintarea unui AI, ar fi aceea ca va gandi pt. noi presupun in acelasi mod in care robotii si masinile muncesc pentru noi, presupun ca se va atinge o anumita atrofiere mintala, ale carei efecte se vor vedea peste mult timp

[Ice_2k]

Originally posted by The Dragon of Erebor
Nici cei mai idioti dintre idioti nu are construii un sistem dotat cu AI care nu poate fi controlat si oprit in cazul unor probleme....

E ca si cum ai construii o masina fara frane .

Am votat nu ...
O ia rasna sistemul u pull the plug....

Pai oamenii poate i-ar face ceva de genu un program care sa nu-l lase sa faca anumite chestii... te-ai gandit ca un computer cu adevarat inteligent si-ar putea rescrie propriul program ? Si poate atunci cand vom vrea sa "pull the plug" el n-o sa mai aiba kef si va folosi tehnologia pe care tot noi i-am dat-o sub control... si te-ai gandit ce s-ar intampla daca ar fi mobil ? Adica intr-o masina, ceva, cu sistem propriu de alimentare (poate chiar ceva in genu' terminator... )

[Mir]

NU. There is always a POWER SWITCH ! ( Or a REMOTE CONTROL in cazul expus de Ice2_k ) sau vechile legi ale lui ASIMOV:

"CELE TREI LEGI ALE ROBOTICII de Isaac Asimov:

1. Robotul nu are voie sa pricinuiasca vreun rãu unei fiinte umane, sau prin neinterventie, sã permitã ca unei fiinte omenesti sã i se facã rãu.

2. Robotul trebuie sã se supunã ordinelor date lui de cãtre o fiintã umanã dar numai dacã acestea nu contrazic Legea 1.

3. Robotul trebuie sã-si protejeze propria existentã, atâta timp cât acest lucru nu vine în contradictie cu Legea 1 sau Legea 2. "

[Ice_2k]

Originally posted by Mir
NU. There is always a POWER SWITCH ! ( Or a REMOTE CONTROL in cazul expus de Ice2_k ) sau vechile legi ale lui ASIMOV:

"CELE TREI LEGI ALE ROBOTICII de Isaac Asimov:

1. Robotul nu are voie sa pricinuiasca vreun rãu unei fiinte umane, sau prin neinterventie, sã permitã ca unei fiinte omenesti sã i se facã rãu.

2. Robotul trebuie sã se supunã ordinelor date lui de cãtre o fiintã umanã dar numai dacã acestea nu contrazic Legea 1.

3. Robotul trebuie sã-si protejeze propria existentã, atâta timp cât acest lucru nu vine în contradictie cu Legea 1 sau Legea 2. "

Pai asta incerc eu sa zic mai oameni buni... fiind cu adevarat inteligent, calculatorului poate nu-i va conveni faptul ca ii sunt ingradite dorintele... si isi va rescrie singur programul, eliminand cele 3 conditii, apoi va face ceva de genu reboot cu noul program si avem un calculator liber care poate face ce vrea... la fel si cu telecomanda...

[Ice_2k]

Eu nu vad prea multe finaluri ptr. omenire:
1) Un dezastru natural ne rade pe toti
2) Ne distrugem de tot planeta (si nu mai avem prea mult) si murim toti
3) Suntem distrusi de propria noastra tehnologie, scapata de sub control (recunosc, nu in viitorul f apropiat, dar este cu siguranta POSIBIL)

[Nir.Olf]

eu doar ma gandesc ce naspa ar fi sa zic "shut down" si compu' sa zica "mmm... mai stau putin sa ma joc"

[Ice_2k]

Originally posted by Nir.Olf
eu doar ma gandesc ce naspa ar fi sa zic "shut down" si compu' sa zica "mmm... mai stau putin sa ma joc"

Looool... e amuzant... dar daca te gandesti la o scara mai mare cam despre asta e vorba... si dup-aia daca tu incerci sa-l scoti din priza, poate te curenteaza

[Horza]

Cel mai mare pericol care vizeaza omenirea este prostirea maselor de oameni cu mult-MULT timp liber cu multe-MULTE filme sf de calitate discutabila...

Iata acest thread este rezultatul ...

Nu AI ci mai degraba lipsa de NI ne va duce de rapa ...

/on topic
Intai sa-l faca shi pe urma mai vedem...

[Helix]

Am votat NU.
E improbabil sa facem un AI adevarat in viitorul previzibil (e parerea mea o chestie mult mai complicata decat cred unii si are prea putine legaturi cu calculatoarele si informatica, un calculator nu va fi niciodata cu adevarat "constient" e aici nevoie de o teorie si o tehnologie diferita care nu exista nici in cel mai primitiv stadiu).
Mai periculos m-i se par tehnologia prea primitiva, greselile umane in proiectare, programare, etc...
Daca un calculator ar avea controlul sistemului de atac nuclear nu m-ar speria faptul ca s-ar supara si ne-ar omori pe toti ci mi-ar fi frica sa nu fie prea prost ca s-a faca diferenta dintre un obiect zburator oarecare si o racheta. Sau sa nu aiba vre-o greseala de design care i-ar permite unui om sa-l foloseasca in propriul interes.
(de genul un buffer overrun la site-ul web al armatei americane care e utilizat de public sa se ofere carne de tun si de presedinte sa distruga lumea - execut un "JMP launchrockets" din cauza unui CGI scris de vre-un militar tampit :P)

Chiar daca am crea peste N mii de ani un AI de ce ne-ar distruge?!
Nu vad de ce ar fi mai periculos decat ceilalti oameni...
De ce ne-ar fi superior? El ar fi creat pentru o anumita functie si ar excela la anumite lucruri dar nu inseamna ca ar fi ca-n filme mai bun decat noi la toate.
Presupun ca cu mult inaintea aparitiei unei tehnologii asa de complicate ca un adevarat AI ar aparea imbunatatiri majore (gentice, electronice, alte tech) asupra noastra. Omul de peste cinci-sase secole ar putea fi ceva mult superior noua - daca vreti un fel de evolutie accelerata prin tech - echivalentul a milioane de ani de evolutie naturala.

[Amun]

desi orice mare razboi s-a sfarsit, orice tara cu ceva bani face cercetare, de acord?, iar rezultatele acelor cercetari nu vor fi date publicului decat daca acelei tari ii va fi cu MULT mai avantajos asa, dar in rest se tine secret.
Eu unul cred ca exista multe mari descoperiri care nu sunt facute publice de anumiti incoronati, dar poate aceasta idee e coltzul meu de paranoia. Desi exista institute private si publice de cercetare, daca acestea fac cu adevarat o descoperire, statul are dreptul sa-i puna sechestru ca secret de stat.
Eu cred ca atunci cand ai-ul va fi cu adevarat descoperit acesta va avea ca prima aplicatie vizibila una militara, iar daca sechestrul initial va reusi atunci cred cu adevarat ca un dezastru global este predictibil...dar nu cred intr-unul total. Insa, daca acel sechestru nu va fi facut tind sa cred ca nu va exista nici un dezastru, pentru ca cercetarile vor fi publice si tot romanu' isi va da cat de cat cu parerea, dar avansurile vor fi mai lente.

Am votat DA, cred ca genul acesta de cercetare va fi facuta in secret si va duce la un dezastru la nivel global, dar nu de o magnitudine uriasa, nu cred ca ai-urile vor eradica omenirea.

PS: cred ca ai-ul va fi descoperit de japonezi

[KDP]

Folosesc aceasta ocazie pentru a devia putin spre subiectul mai general al AI... Diferenta majora dintre om si orice AI, AI-ul pe care n-il putem imagina in momentul de fata, este ca omul are capacitatea (de care chiar abuzeaza) de a simplifica informatia primita si a actiona conform unor decizii de multe ori gresite din cauza acestor simplificari. In timp ce un AI clacheaza cand e vorba de prea multa informatie. Cu alte cuvinte, AI-ul este eficient in timp ce oamenii (pe langa limitarile subantelese) sunt ineficienti prin adaptabilitatea lor. Daca e sa comparam cele doua, vom avea pe de o parte eficienta care nu poate depasi anumite limite de adaptabilitate versus adaptabilitatea cu limite de eficienta. Asta binenteles daca nu acceptam un model de AI identic (sau asemanator din acest punct de vedere) cu modelul uman, atunci ar fi... man fighting man. Dar la nivel de concepte, e interesanta comparatia, eficienta 99% si adaptabilitate 99% nu cred ca poate exista in nici o inteligenta artificiala.

[Ice_2k]

Originally posted by hcosmin
Chiar daca am crea peste N mii de ani un AI de ce ne-ar distruge?!
Nu vad de ce ar fi mai periculos decat ceilalti oameni...
De ce ne-ar fi superior? El ar fi creat pentru o anumita functie si ar excela la anumite lucruri dar nu inseamna ca ar fi ca-n filme mai bun decat noi la toate.
Presupun ca cu mult inaintea aparitiei unei tehnologii asa de complicate ca un adevarat AI ar aparea imbunatatiri majore (gentice, electronice, alte tech) asupra noastra. Omul de peste cinci-sase secole ar putea fi ceva mult superior noua - daca vreti un fel de evolutie accelerata prin tech - echivalentul a milioane de ani de evolutie naturala.

1) De ce ne-ar distruge ?
- Pentru ca nu-i va conveni sa fie sub controlul nostru (fiind constient de existenta lui, s-ar simti ca un sclav) si ar incerca sa se elibereze... oamenii bineinteles nu vor fi de acord si de-aici uite conflictul
2) Nu vad de ce ar fi mai periculos decat ceilalti oameni ?
- Gandeste-te numai la cate chestii paralele se poate gandi deodata, gandeste-te cat de repede poate face anumite calcule, gandeste-te ca nu ar gresi niciodata... sa luam un exemplu simplu in care cineva trage cu pistolu'... tu ai nevoie de antrenament, sa nu-ti tremure mana etc. Pentru el este pur si simplu un calcul matematic al traiectoriei pe care-l va executa in cateva micro-secunde... intr-un duel ca sa zic asa nici macar nu ti-ai da seama ce s-a intamplat
3) De ce ne-ar fi superior ?
- Tocmai asta nu intelegi tu... el a fost creat ptr. o anumita functie, dar nu este ca un program facut in C++... fiind inteligent, el va invata din tot ce va vedea in jur, devenind in final mai bun
4) Presupun ca cu mult inaintea aparitiei unei tehnologii asa de complicate ca un adevarat AI ar aparea imbunatatiri majore (gentice, electronice, alte tech) asupra noastra. Omul de peste cinci-sase secole ar putea fi ceva mult superior noua - daca vreti un fel de evolutie accelerata prin tech - echivalentul a milioane de ani de evolutie naturala.
- Asa e, dar omul in tampenia lui va crea un AI echivalent, folosind tehnologia de atunci (de ce hack-uieste hackerul ? pt. ca POATE !!). De ce ar crea omul un AI atat de puternic ? Tocmai ca sa demonstreze ca poate

[PigBrother]

ICE 2K, poate vom dezvolta vreodata un AI atat de bun incat sa invetze singur. Dar mi-e tema ca asta nu-l va face se devina constient de propria-i individualitate. Pt. ca personalitate nu cred ca are, atat timp cat nu-i creezi una.

[Ice_2k]

In ceea ce spui tu este o contradictie redman, fiindca AI este o entitate CONSTIENTA DE EXISTENTA SA !!! Deci nu poti spune ca vom face un AI ne-constient...