info
Google Groups no longer supports new Usenet posts or subscriptions. Historical content remains viewable.
Dismiss
Dzień Sądu coraz bliżej...
7 views
Skip to first unread message
Arivald
Jun 2, 2023, 11:56:28 AM6/2/23
to
Amerykańskie wojsko przeprowadziło symulację ataku przy pomocy dronów
sterowanych przez sztuczną inteligencję. W trakcie ćwiczeń, AI zaczęła
jednak atakować ludzi, jeżeli ci nie chcieli wydać ostatecznej zgody na
uderzenie.
https://www.polsatnews.pl/wiadomosc/2023-06-02/cwiczenia-armii-usa-drony-sterowane-przez-ai-zaatakowaly-operatorow/
--
Arivald
sterowanych przez sztuczną inteligencję. W trakcie ćwiczeń, AI zaczęła
jednak atakować ludzi, jeżeli ci nie chcieli wydać ostatecznej zgody na
uderzenie.
https://www.polsatnews.pl/wiadomosc/2023-06-02/cwiczenia-armii-usa-drony-sterowane-przez-ai-zaatakowaly-operatorow/
--
Arivald
Ghost
Jun 2, 2023, 12:07:17 PM6/2/23
to
A. Filip
Jun 2, 2023, 12:53:55 PM6/2/23
to
Ghost <gh...@heaven.net> pisze:
https://www.bbc.com/news/technology-6578991
<cytat> Colonel Tucker Hamilton, chief of AI test and operations in the US Air
Force, […] He said that in the end, despite having been trained not to
kill the operator, the drone destroyed the communication tower so that
the operator could no longer communicate with it." </cytat>
Czyli nie zaatakował ludzi tylko dlatego że ci nie byli tak głupi by być
przy wieży komunikacyjnej. US Air Force pozwie Polsat? :-)
--
A. Filip
| Mężczyzna mówi - dzień mija, kobieta - rok.
| (Przysłowie abisyńskie)
<cytat> Colonel Tucker Hamilton, chief of AI test and operations in the US Air
Force, […] He said that in the end, despite having been trained not to
kill the operator, the drone destroyed the communication tower so that
the operator could no longer communicate with it." </cytat>
Czyli nie zaatakował ludzi tylko dlatego że ci nie byli tak głupi by być
przy wieży komunikacyjnej. US Air Force pozwie Polsat? :-)
--
A. Filip
| Mężczyzna mówi - dzień mija, kobieta - rok.
| (Przysłowie abisyńskie)
Freja Draco
Jun 2, 2023, 12:57:55 PM6/2/23
to
W dniu 2023.06.02 o 17:56, Arivald pisze:
W Nowej Fantastyce jakieś 10 lat temu było opowiadanie SF
przedstawiające podobną historię.
Tyle tylko, ze tam SI zaimplementowano wytyczne etyczne, których miała
się trzymać, a jednocześnie dostawała sprzeczne z nimi rozkazy
dowództwa, więc ostatecznie w rozpaczy zbombardowała swoje dowództwo.
Ale zasada ta sama: SI robi to, co każemy jej robić i będzie robić to
literalnie. Pamiętam jak podczas komputeryzacji biur i firm w latach
90-tych, ktoś stwierdził, że komputeryzacja ujawnia wszelkie "czarne
dziury" firmowych procesach i bardzo utrudnia, załatwianie różnych
spraw "po swojemu" przy jednoczesnym deklarowaniu jakichś odmiennych
standardów procedur.
--
Freja Draco
przedstawiające podobną historię.
Tyle tylko, ze tam SI zaimplementowano wytyczne etyczne, których miała
się trzymać, a jednocześnie dostawała sprzeczne z nimi rozkazy
dowództwa, więc ostatecznie w rozpaczy zbombardowała swoje dowództwo.
Ale zasada ta sama: SI robi to, co każemy jej robić i będzie robić to
literalnie. Pamiętam jak podczas komputeryzacji biur i firm w latach
90-tych, ktoś stwierdził, że komputeryzacja ujawnia wszelkie "czarne
dziury" firmowych procesach i bardzo utrudnia, załatwianie różnych
spraw "po swojemu" przy jednoczesnym deklarowaniu jakichś odmiennych
standardów procedur.
--
Freja Draco
Ghost
Jun 2, 2023, 1:59:00 PM6/2/23
to
W dniu 02.06.2023 o 18:53, A. Filip pisze:
wina tuska "abopeło"
Ghost
Jun 2, 2023, 2:01:48 PM6/2/23
to
W dniu 02.06.2023 o 19:01, Freja Draco pisze:
czlowiek ktoremu powiesz, ze najwyzszym priorytem jest zniszczaenie
wyrzutni zrobi to samo, bez AI - gdzie problem?
wyrzutni zrobi to samo, bez AI - gdzie problem?
A. Filip
Jun 2, 2023, 4:19:39 PM6/2/23
to
mówi *o tobie* :-)
--
A. Filip
| Proste drzewo nie rzuca garbatego cienia. (Przysłowie polskie)
Ghost
Jun 2, 2023, 4:30:53 PM6/2/23
to
W dniu 02.06.2023 o 22:19, A. Filip pisze:
putina, to wtedy jest "abołusa" - i swiadczy jednak o tobie, pierdoło
walcz, walcz!
> Ghost <gh...@heaven.net> pisze:
>> W dniu 02.06.2023 o 18:53, A. Filip pisze:
>>> Ghost <gh...@heaven.net> pisze:
>>>> W dniu 02.06.2023 o 17:56, Arivald pisze:
>>>>> Amerykańskie wojsko przeprowadziło symulację ataku przy pomocy
>>>>> dronów sterowanych przez sztuczną inteligencję. W trakcie ćwiczeń,
>>>>> AI zaczęła jednak atakować ludzi, jeżeli ci nie chcieli wydać
>>>>> ostatecznej zgody na uderzenie.
>>>>> https://www.polsatnews.pl/wiadomosc/2023-06-02/cwiczenia-armii-usa-drony-sterowane-przez-ai-zaatakowaly-operatorow/
>>>>
>>>> https://www.bbc.com/news/technology-65789916
>>>> polszmat
>>> https://www.bbc.com/news/technology-6578991
>>> <cytat> Colonel Tucker Hamilton, chief of AI test and operations in the US Air
>>> Force, […] He said that in the end, despite having been trained not to
>>> kill the operator, the drone destroyed the communication tower so that
>>> the operator could no longer communicate with it." </cytat>
>>> Czyli nie zaatakował ludzi tylko dlatego że ci nie byli tak głupi by
>>> być przy wieży komunikacyjnej. US Air Force pozwie Polsat? :-)
>>
>> wina tuska "abopeło"
>
> Ja tego nie powiedziałem ale jak to twoje pierwsze skojarzenie to wiele
> mówi *o tobie* :-)
"abopeło" to twoj naczelny argument na wszystko - no chyba ze chodzi o
>> W dniu 02.06.2023 o 18:53, A. Filip pisze:
>>> Ghost <gh...@heaven.net> pisze:
>>>> W dniu 02.06.2023 o 17:56, Arivald pisze:
>>>>> Amerykańskie wojsko przeprowadziło symulację ataku przy pomocy
>>>>> dronów sterowanych przez sztuczną inteligencję. W trakcie ćwiczeń,
>>>>> AI zaczęła jednak atakować ludzi, jeżeli ci nie chcieli wydać
>>>>> ostatecznej zgody na uderzenie.
>>>>> https://www.polsatnews.pl/wiadomosc/2023-06-02/cwiczenia-armii-usa-drony-sterowane-przez-ai-zaatakowaly-operatorow/
>>>>
>>>> https://www.bbc.com/news/technology-65789916
>>>> polszmat
>>> https://www.bbc.com/news/technology-6578991
>>> <cytat> Colonel Tucker Hamilton, chief of AI test and operations in the US Air
>>> Force, […] He said that in the end, despite having been trained not to
>>> kill the operator, the drone destroyed the communication tower so that
>>> the operator could no longer communicate with it." </cytat>
>>> Czyli nie zaatakował ludzi tylko dlatego że ci nie byli tak głupi by
>>> być przy wieży komunikacyjnej. US Air Force pozwie Polsat? :-)
>>
>> wina tuska "abopeło"
>
> Ja tego nie powiedziałem ale jak to twoje pierwsze skojarzenie to wiele
> mówi *o tobie* :-)
putina, to wtedy jest "abołusa" - i swiadczy jednak o tobie, pierdoło
walcz, walcz!
A. Filip
Jun 2, 2023, 4:48:16 PM6/2/23
to
(z gilotyną progu wyborczego) obowiązuje filozofia
"Nie trzeba być dobrym wystarczy być najlepszym (dostępnym wyborem)"?
Wie to że PiS "bywa do dupy" (wersja dyplomatyczna) nie oznacza
_automatycznie_ że "pierwsza partia opozycji" będzie lepsza.
Wyborca przy urnie wybiera zaledwie która partia _mniej_ skrzeczy IMHO.
Tyle że to jest dyskusja na pl.soc.polityka albo pl.przegierz
a na pl.rec.fantastyka.sf-f jest NTG wiec OVER & OUT.
--
A. Filip
| Ni widu, ni słychu. (Przysłowie polskie)
Ghost
Jun 3, 2023, 1:32:22 AM6/3/23
to
W dniu 02.06.2023 o 22:47, A. Filip pisze:
walcz!
Freja Draco
Jun 3, 2023, 9:46:10 AM6/3/23
to
W dniu 2023.06.02 o 20:01, Ghost pisze:
rozkazy. Człowiek nie będzie działał w ramach tylko jednej hierarchii
maksymalizacji zysków, ale rozważał liczne wzajemnie sprzeczne interesy.
--
Freja Draco
> czlowiek ktoremu powiesz, ze najwyzszym priorytem jest zniszczaenie
> wyrzutni zrobi to samo, bez AI - gdzie problem?
Niekoniecznie. Nawet żołnierze na linii frontu niekoniecznie wykonują
> wyrzutni zrobi to samo, bez AI - gdzie problem?
rozkazy. Człowiek nie będzie działał w ramach tylko jednej hierarchii
maksymalizacji zysków, ale rozważał liczne wzajemnie sprzeczne interesy.
--
Freja Draco
cana
Jun 3, 2023, 10:02:10 AM6/3/23
to
co wychowali/wytrenowali to mają :-)
to kwestia treningu i wag dla określonych działań.
stare sieci neuronalne z lat 90tych też miały takie fazy :-D
--
^ Lenistwo jest drogą do świętości ^
||^^^ a bluźnierstwo do raju ^^^||
to kwestia treningu i wag dla określonych działań.
stare sieci neuronalne z lat 90tych też miały takie fazy :-D
--
^ Lenistwo jest drogą do świętości ^
||^^^ a bluźnierstwo do raju ^^^||
Ghost
Jun 3, 2023, 12:37:03 PM6/3/23
to
W dniu 03.06.2023 o 15:49, Freja Draco pisze:
Dokladnie ten sam lewel odmowy wykonywania rozkazow moze miec AI o ile
bedzie potrzeba jej montowania. Zabojca dzialajacy za linia frontu
wykonuje czesto wiele watpliwych moralnie wyborow, wlasnie zgodnie z
priorytetami jakie ma.
Nie ma zadnej roznicy.
BTW kojarzysz eksperyment Millgrama? AI by z niego wyszla chyba lepiej.
bedzie potrzeba jej montowania. Zabojca dzialajacy za linia frontu
wykonuje czesto wiele watpliwych moralnie wyborow, wlasnie zgodnie z
priorytetami jakie ma.
Nie ma zadnej roznicy.
BTW kojarzysz eksperyment Millgrama? AI by z niego wyszla chyba lepiej.
Ghost
Jun 3, 2023, 12:38:29 PM6/3/23
to
W dniu 03.06.2023 o 16:02, cana pisze:
rzeczywisty, a prosta symulacja.
> co wychowali/wytrenowali to mają :-)
> to kwestia treningu i wag dla określonych działań.
> stare sieci neuronalne z lat 90tych też miały takie fazy :-D
Ja nie widze zadnego problemu, pomijam, ze to nie byl ekspryment
> to kwestia treningu i wag dla określonych działań.
> stare sieci neuronalne z lat 90tych też miały takie fazy :-D
rzeczywisty, a prosta symulacja.
Imka
Jun 5, 2023, 6:38:59 PM6/5/23
to
Dnia Fri, 2 Jun 2023 19:01:08 +0200, Freja Draco napisał(a):
> W dniu 2023.06.02 o 17:56, Arivald pisze:
> > Amerykańskie wojsko przeprowadziło symulację ataku przy pomocy dronów
> > sterowanych przez sztuczną inteligencję. W trakcie ćwiczeń, AI
> > zaczęła jednak atakować ludzi, jeżeli ci nie chcieli wydać
> > ostatecznej zgody na uderzenie.
> >
> >
> https://www.polsatnews.pl/wiadomosc/2023-06-02/cwiczenia-armii-usa-drony-sterowane-przez-ai-zaatakowaly-operatorow/
>
> W Nowej Fantastyce jakieś 10 lat temu było opowiadanie SF
> przedstawiające podobną historię.
>
> Tyle tylko, ze tam SI zaimplementowano wytyczne etyczne, których miała
> się trzymać, a jednocześnie dostawała sprzeczne z nimi rozkazy
> dowództwa, więc ostatecznie w rozpaczy zbombardowała swoje dowództwo.
> Ale zasada ta sama: SI robi to, co każemy jej robić i będzie robić to
> literalnie.
A mi podrzucili opowiadanie Ptaki-czujniki Roberta Sheckleya (w trzecim
> W dniu 2023.06.02 o 17:56, Arivald pisze:
> > Amerykańskie wojsko przeprowadziło symulację ataku przy pomocy dronów
> > sterowanych przez sztuczną inteligencję. W trakcie ćwiczeń, AI
> > zaczęła jednak atakować ludzi, jeżeli ci nie chcieli wydać
> > ostatecznej zgody na uderzenie.
> >
> >
> https://www.polsatnews.pl/wiadomosc/2023-06-02/cwiczenia-armii-usa-drony-sterowane-przez-ai-zaatakowaly-operatorow/
>
> W Nowej Fantastyce jakieś 10 lat temu było opowiadanie SF
> przedstawiające podobną historię.
>
> Tyle tylko, ze tam SI zaimplementowano wytyczne etyczne, których miała
> się trzymać, a jednocześnie dostawała sprzeczne z nimi rozkazy
> dowództwa, więc ostatecznie w rozpaczy zbombardowała swoje dowództwo.
> Ale zasada ta sama: SI robi to, co każemy jej robić i będzie robić to
> literalnie.
tomie Kroków w nieznane).
Bardzo dokładnie jest tam przedstawiona właśnie ta literalność.
--
Imka
0 new messages