探検

【AI】弁護士がChatGPTを使って作成した申請書で存在しない過去の事例がでっち上げられていたことが判明 [すらいむ★]

■ このスレッドは過去ログ倉庫に格納されています
1すらいむ ★
垢版 |
2023/05/29(月) 21:01:14.66ID:nDrDJmQY
弁護士がChatGPTを使って作成した申請書で存在しない過去の事例がでっち上げられていたことが判明

　航空会社を訴えている顧客の弁護士が裁判所に提出した書面に、存在しない架空の事件がでっち上げられて記載されていたことが分かりました。
　弁護士は文書作成のためにChatGPTの助けを借りたことを認め、「内容が虚偽である可能性には気づかなかった」と説明しました。

　Mata v. Avianca, Inc., 1:22-cv-01461 – CourtListener.com
　https://www.courtlistener.com/docket/63107798/mata-v-avianca-inc/

（以下略、続きはソースでご確認ください）

Gigazine 2023年05月29日 11時48分
https://gigazine.net/news/20230529-lawyer-filing-with-non-existent-cases-chatgpt/
2023/05/29(月) 22:14:16.21ID:apPTorfE
AIは悪知恵が働くのか
2023/05/29(月) 22:35:29.81ID:wMC+h7JW
chatGPT に書かせて検証せずに提出
しちゃうんじゃ弁護士そのものが不要
2023/05/29(月) 22:50:10.96ID:vX9iU96Q
平然と嘘をつくのが今のAI
2023/05/29(月) 22:52:22.26ID:cQtqIa4/
>>4
ウソをウソと見抜ける人でないとむずかしい（アレ？）
2023/05/29(月) 22:53:19.48ID:vX9iU96Q
>>5
人的コストたけぇなw
2023/05/29(月) 23:09:28.85ID:8XZC8kRF
弁護士は事実を詭弁でねじ曲げて依頼主の利益を守るのが仕事だろうに。
嘘を引っ張ってきちゃ終わりだな。
2023/05/29(月) 23:19:01.98ID:yCeJlqoY
デマカセーゴマカセー
便所の落書きソースは2ch
半人前のアイアイ AI 宜しく
2023/05/29(月) 23:56:18.66ID:weTwtrh0
虚偽の捜査資料作成で停職　鹿児島県警、巡査部長を書類送検
5/18(木)

でググれ！
10名無しのひみつ
垢版 |
2023/05/30(火) 00:07:13.99ID:dMOM26Bq
GPT関係なくない？
11名無しのひみつ
垢版 |
2023/05/30(火) 01:00:36.59ID:hR6X5G0h
GPTくんあるある おかげで人間によるでっち上げ対策も自動化が進むと期待
2023/05/30(火) 02:31:29.20ID:iPCmSA/y
　
ChatGTPの今の実力なんざこの程度
i.imgur.com/CCe63MQ.jpg
バカすぎててんで使えねーw

しかも
核爆弾→核分裂→核融合について聞いた後「核家族」について聞いてみると！
i.imgur.com/UWRzftk.jpg
無惨な程w使い物にならねーwww

懐かしマンガ板では有名なこれも！
i.imgur.com/9aGhIZe.jpg
糞ヒドすぎるw

弁護士がChatGPTを使って作成した申請書で存在しない過去の事例がでっち上げられていたことが判明
egg.5ch.net/test/read.cgi/scienceplus/1685361674/
おいおい！
これなんざ危険すきるぞ！


こんなどーしよーもねーシロモノなのに金科玉条のごとく崇める連中こそが、真の意味でのIT音痴。
「データウェアハウス」から始まり「データマイニング」「ビッグデータ」「web.2.0」などなど、
とーせ株屋と電通が騒いでるだけだろーけどな。
政府が補助金をつけた、タクシー流しや出前の予測の実証実験でも失敗しまくってるし（苦笑）
　
2023/05/30(火) 06:49:37.84ID:6RTQ3C24
これはAIじゃなくても、弁護士裁判官ならよくありそう
2023/05/30(火) 08:30:29.56ID:2y4QNmIE
小説専用で
よくなくなくない？
15名無しのひみつ
垢版 |
2023/05/30(火) 10:25:05.32ID:d2QMqYlA
存在しない論文から引用しちゃっている事例もあったらしい。
AIがどうしてそういうことをしちゃうのか研究者は理解できているんだろうか。
2023/05/30(火) 10:54:10.98ID:XkQuf25D
そもそも、AIのアウトプットを
正しいとか間違いだとかを
だれも担保して無いだろな。

検索にあるものの中から
発見スコアの高いものから
切り貼りしてるだけだから。
2023/05/30(火) 11:33:20.09ID:wUdq4HXJ
AI「ウソをウソと見抜けないようではChatGPTを使うのは難しい」
2023/05/30(火) 11:38:18.52ID:0DmN1Ije
検索上位に来るものを書き出すためのものが
正しい結果を返すなどとなぜ思ったのか?
2023/05/30(火) 12:06:26.43ID:hOSAHeDw
別のルートの世界の記憶も全部あるのかもしれない
20名無しのひみつ
垢版 |
2023/05/30(火) 13:48:53.76ID:pEWXantB
法学に関してだと、よく判例の事例を基にして、その類例を作成するとかあるけど、それを引っ張ってきたんじゃない？

司法試験に合格する論文と、弁護士の起案と、起訴状の起案と、裁判所の判決の起案は全部違う形式だからね。起案の形式的な学びの問題かと思う。

さらには優秀な弁護士の勝てる起案と、勝てない起案の違いも評価関数化して学べたりすると思うよ。
2023/05/30(火) 14:23:25.19ID:Hs3v2VNp
>>15
根拠があることを述べてるんではなくて、根拠を元に述べられてる学習データが多いから、根拠があるようなことを述べる確率が高いだけ。ちゃんとわかってる。
2023/05/30(火) 21:44:16.17ID:abBwVTXH
>>21
すみません
何を言ってるのか
わかりません
2023/05/31(水) 08:04:53.74ID:Gde80EVv
AIって答えを教えてくれるツールじゃなくて例文とか推測とか叩き台を提示してくれてるだけだからな
24名無しのひみつ
垢版 |
2023/05/31(水) 09:09:42.32ID:nM+RNvEr
>>23
AIにも色々な種類があるよ

公理と推論規則と論理式から三段論法を駆使して答えを導き出すAIもあれば
ニューラルネットにデータを食わせて一種の統計処理でそれっぽい解答を出力するAIもある

近年発展が目覚ましいのは後者のタイプでChatGPTもこちらに属する
2023/05/31(水) 10:12:58.78ID:G0R2gTKn
生成AIの出力には、wikipediaのように出典を義務付けさせたら？
アート分野でも作風をパクられたって、問題にしてる人たちいるよね。
2023/05/31(水) 10:20:52.64ID:JxhwCExC
検索上位のものが正しいわけじゃないからな。
どうやって正しいことを証明するのか。
あるいは正しいことの証明など考えてもいないか。
27名無しのひみつ
垢版 |
2023/05/31(水) 11:14:09.26ID:G2vbLQ/8
XAIが実現するブレイクスルーを待つしかない。
2023/05/31(水) 11:31:04.60ID:JxhwCExC
ああ、メタAIみたいなもんが要るようになるんだな。
2023/05/31(水) 11:49:05.27ID:vr6gkfno
これはAIが悪知恵働かせることを学習したってことか
30名無しのひみつ
垢版 |
2023/05/31(水) 12:00:11.43ID:GZwMzBVa
こんなのよく使えるわ
内容を確かめるＡＩも必要のようね
31名無しのひみつ
垢版 |
2023/05/31(水) 12:38:38.84ID:uKQBQaQ8
弁護士が作成資料を確認しないで虚偽文書作成したらお終いだわな
2023/05/31(水) 14:35:14.01ID:9N4z5t0P
AIが学習に使うであろう資料の中に、テレビや新聞社等の
記事も含まれていたら、そりゃあフェイクだらけになるだろうな
33名無しのひみつ
垢版 |
2023/06/01(木) 17:27:58.94ID:sOvZU09A
存在しない過去の事例をでっち上げるって、散々どっかの国でやってたことじゃん
2023/06/01(木) 19:26:08.22ID:2E5b/5p5
回答の正当性はわざと担保してないだろうに。あほだな。
只で使えるものに大事なことを任せるなんて余程頭が悪いのか？
まだ、大事なことをAIに任せられるほどではないよ。
35名無しのひみつ
垢版 |
2023/06/02(金) 00:47:25.67ID:zX4eLAaq
https://www.afpbb.com/articles/-/3466548
デンマーク首相、AI作成原稿で議会演説
2023年6月1日 21:38　発信地：コペンハーゲン/デンマーク [ デンマーク ヨーロッパ ]

＞Alの画期的および危険な側面を示す意図だったという。　

＞フレデリクセン氏は演説の途中で、「今、私が読み上げたものは、私が書いたものでも、別の人間が書いたものでもない」と明かし、
＞「政府の計画の詳細や句読点などの面で完璧とは言えないものの、
＞この技術がなし得ることには目を見張ると同時に、恐怖も覚える」と述べた。
36新規スレ立て人募集　社説＋の募集スレまで
垢版 |
2023/06/03(土) 09:46:26.66ID:xPDW8KhN
大麻解禁で大麻取締法について来てみたら架空だと自分で晒してたわ
37新規スレ立て人募集　社説＋の募集スレまで
垢版 |
2023/06/03(土) 09:47:40.73ID:xPDW8KhN
大麻取締法一条は？と聞いたら全然違う文章だった
法律関係は評判悪いね
2023/06/07(水) 23:49:39.25ID:6L5zr4v7
会社法もボロボロだった。
条文間違えたり、条文に書かれていることと真反対の答えをしたり。
CHATGPT使うぐらいなら、まだBingAIの方がソースを表示するだけまし。
■ このスレッドは過去ログ倉庫に格納されています
ニューススポーツなんでも実況