今月 3 回目の発表& LT 参加は、地元のJAWS-UG 名古屋でした。
(ネタの 80% は月初の発表の使い回しなのですが…)
会場はいつもの「職場から 30 秒」の場所ではなくて、昔よく通った某 DC の近所にある NEC 中部ビルでした。
(どうするか迷ったのですが暑い中名駅から歩いて行きました)
(大昔に会場近くの某DCを借りてたことがある)#jawsug_nagoya#jawsug
— hmatsu47(まつ) (@hmatsu47) 2024年7月29日
各セッション
気づいたら中の人になってた川路さんのセッションからスタート。#jawsug_nagoya#jawsug
— hmatsu47(まつ) (@hmatsu47) 2024年7月29日
Amazonにおける生成AI利用
— 高橋 広和/Hirokazu TAKAHASHI (@techniczna) 2024年7月29日
キモは上モノアプリじゃなくデータ基盤#jawsug_nagoya pic.twitter.com/OadHSAN2CS
AWS の中でも色々と活用されているんですね。
オンライン旅行代理店と聞いて、どこかで聞いた「鵜飼いを激推しするAIエージェント」の話を思い出した。#jawsug_nagoya#jawsug
— hmatsu47(まつ) (@hmatsu47) 2024年7月29日
どこだっけ?(最近だった気がするけど)…と思って探したら、先月の JAWS-UG 名古屋(Media-JAWS コラボ回)でした。
AWSの生成AI,ブランドが複数に分かれててそれぞれの名前の関連性が薄いから(そして他のメニューでもありがちな「ユースケースが被ってるサービス」がいくつかある)、ユーザが「どれ使ったら良いの?」みたいな感じでとっつきにくい面があるかもしれない…#jawsug_nagoya#jawsug
— hmatsu47(まつ) (@hmatsu47) 2024年7月29日
AWS の中では明確な線引きがあっても、そのへんの事情に明るくないユーザーからすると線引きがわかりにくい(こともある)んですよね。
そこでこの本↓、なんだけどタイトルに「Bedrock」以外居なかった😂https://t.co/VyEl9ZEffD#jawsug_nagoya#jawsug
— hmatsu47(まつ) (@hmatsu47) 2024年7月29日
後で森田さん(著者のお一人)から説明がありそうですが…本のタイトルにはなくても Bedrock 以外のサービスの説明も書かれています。
時間の限界で終わるwww #jawsug #jawsug_nagoya
— mujyun@古 (@mujyun_furu) 2024年7月29日
…という流れでしたが、単に川路さんが終了時間を勘違いして早めに終わってしまっただけでしたw
次は淡路さん#jawsug_nagoya pic.twitter.com/PEeHSi9XJi
— 高橋 広和/Hirokazu TAKAHASHI (@techniczna) 2024年7月29日
今日はKAWAJIの次にAWAJIが喋るって流れが出来て満足 #jawsug_nagoya
— kawaji_scratch (@kawaji_scratch) 2024年7月29日
3 番手に WAJI さんが控え…てなかったw
生成AIでウェブサイト作成#jawsug_nagoya pic.twitter.com/GLD5XSR7I1
— 高橋 広和/Hirokazu TAKAHASHI (@techniczna) 2024年7月29日
Claude 3.5 Sonnetを使うのかと思ったら違った(あれは本家Anthropicのほうだったか)#jawsug_nagoya#jawsug
— hmatsu47(まつ) (@hmatsu47) 2024年7月29日
一瞬勘違いしたのですが、こちらの話ではありませんでした(Claude 3.5 Sonnet の話は後でちらっと出てきました)。
レベル1、対話
— 高橋 広和/Hirokazu TAKAHASHI (@techniczna) 2024年7月29日
レベル2、構造化(マークダウン)#jawsug_nagoya pic.twitter.com/YqhoXmGKU8
レベル3、自律的な生成AI
— 高橋 広和/Hirokazu TAKAHASHI (@techniczna) 2024年7月29日
フォルダ作成などの作業もやってくれる。
#jawsug_nagoya pic.twitter.com/KY0OmIuQg5
レベル分けが自動運転みたいw
チャットインターフェイスでコード錬成しようとすると、途中までは対話を重ねるごとにコードが改善されていくけど、ある時点から内容の一部が欠けたりし始めるのはトークン上限を意識してプロンプトの圧縮処理が入ってくるからなんだろうなー…と思いながら使ってる。#jawsug_nagoya#jawsug
— hmatsu47(まつ) (@hmatsu47) 2024年7月29日
対話だと、途中の指示のうちどこを残してどこを削っていくかもポイントになりそう。
生成AIによる新しいUI/UXまとめ#jawsug_nagoya pic.twitter.com/bvTds1vzDT
— miso_taku (@miso_taku0221) 2024年7月29日
ネットアップ藤原さん#jawsug_nagoya pic.twitter.com/pW682chwuK
— 高橋 広和/Hirokazu TAKAHASHI (@techniczna) 2024年7月29日
3 番手は、日本全国どこの JAWS-UG でもお見かけする(?)藤原さんでした。
(お互い様、でもある…)
ゼタなんて今日日聞かないw#jawsug #jawsug_nagoya pic.twitter.com/b7km9CpUfH
— KMiura (@k_miura_io) 2024年7月29日
イメージがつかない容量ですね…
生成AIにONTAPを#jawsug_nagoya pic.twitter.com/v6WU10BfEa
— 高橋 広和/Hirokazu TAKAHASHI (@techniczna) 2024年7月29日
ほんといろんなレイヤーで生成AIがブームになってる感。
— hmatsu47(まつ) (@hmatsu47) 2024年7月29日
(わたしはRDBMS(PostgreSQL)の話をするけどMySQLはどうした…)#jawsug_nagoya#jawsug
DB の世界もストレージの世界も生成 AI ですね。
ONTAPを使うワークショップ#jawsug_nagoya pic.twitter.com/jOiuPaY14Q
— 高橋 広和/Hirokazu TAKAHASHI (@techniczna) 2024年7月29日
こんなワークショップも!
ONTAPはオンプレでは世界の半分使われている
— miso_taku (@miso_taku0221) 2024年7月29日
Amazon FSx for NetApp ONTAP
VPCで閉じているため安全
Bedrockを使わずにデータパイプラインが可能
機械学習データソースの改ざんや破壊からデータを保護
MLパイプラインの自動化と実験管理の課題と解決策
安心」実現するソリューション#jawsug_nagoya
セキュリティ関連でいくと、世の中のランサム被害の拡大もあって多方面から引っ張りだこの NetApp !!
リモートから森田さん#jawsug_nagoya pic.twitter.com/stOtN5hmG9
— 高橋 広和/Hirokazu TAKAHASHI (@techniczna) 2024年7月29日
Bedrock 本の著者のお一人、森田さんはリモート登壇でした。
ナレベベ(;´Д`)
— 高橋 広和/Hirokazu TAKAHASHI (@techniczna) 2024年7月29日
#jawsug_nagoya pic.twitter.com/M3sOv9gEXX
さて…?
アップデートが多い
— 高橋 広和/Hirokazu TAKAHASHI (@techniczna) 2024年7月29日
必要な機能が揃ってる
階層型チャンキングが使える#jawsug_nagoya pic.twitter.com/rhoMidZphL
最近、怒涛のアップデートがありましたね。
ベッドロックナレッジベースにクロードのマルチモーダルが追加
— Shinoda Yukihiro (@yukkie1114) 2024年7月29日
資料の分析精度が上がるのでこれは嬉しいアップデート!#jawsug_nagoya pic.twitter.com/knFTZRoo6j
いますぐにどんな資料もカバー…とは行かないものの、日々進歩の世界!
全く知らなかった!
— Shinoda Yukihiro (@yukkie1114) 2024年7月29日
ようはたくさんナレッジベースでOpenSearchのコレクションが作られてもコレクションごとの倍がけでは無いということ#jawsug_nagoya pic.twitter.com/9YD7JcNbji
OCU の最低単位も通常と違うし、なるべくコストが高くならないような配慮が感じられますね。
本買ってください!
— hmatsu47(まつ) (@hmatsu47) 2024年7月29日
www#jawsug_nagoya#jawsug
予想通りのw
LT
続いて内木さんのLT #jawsug #jawsug_nagoya pic.twitter.com/Lu86KNSPmi
— mujyun@古 (@mujyun_furu) 2024年7月29日
徳川幕府以上の長い歴史のある会社でのDX推進。#jawsug_nagoya#jawsug
— hmatsu47(まつ) (@hmatsu47) 2024年7月29日
というわけで(どういうわけで?)
おお(;・∀・)
— 高橋 広和/Hirokazu TAKAHASHI (@techniczna) 2024年7月29日
#jawsug_nagoya pic.twitter.com/QaXHmuz7Bo
幕末っぽいキーワードが。
生成AIの利用率向上策#jawsug_nagoya pic.twitter.com/YPa33OCqh7
— 高橋 広和/Hirokazu TAKAHASHI (@techniczna) 2024年7月29日
さっきの単語の種明かし
— 高橋 広和/Hirokazu TAKAHASHI (@techniczna) 2024年7月29日
#jawsug_nagoya pic.twitter.com/Bk0BKBQDZ4
佐久間象山(実のところ何したかよくわからない人w)キター!
内木さんの話に佐久間象山が出てきたので。https://t.co/4Curt9Wcfc
— hmatsu47(まつ) (@hmatsu47) 2024年7月29日
実は「日本で最初に電信実験を成功させた人」だったり。#jawsug_nagoya#jawsug
そしてわたしの LT でした。
ちょっと場違いだったかなー(大吉祥寺.pm での「ミニ句会」向けに生成 AI 使ってオンライン投句箱を作った話のほうが良かったかな?)と思いつつ…
続いてまつさん
— KMiura (@k_miura_io) 2024年7月29日
まつさんといえばRDB!#jawsug #jawsug_nagoya pic.twitter.com/Bd4Tk8GxAe
データ量削減しても精度を落とさない工夫
— 高橋 広和/Hirokazu TAKAHASHI (@techniczna) 2024年7月29日
Re-rank
#jawsug_nagoya pic.twitter.com/omvwcQ8FE9
pgvector0.7.0の新機能とこれから来るpgvectorscale
— miso_taku (@miso_taku0221) 2024年7月29日
pgvector
ポスグレをベクトル対応するための拡張機能
0.7.0主な追加機能
検索精度の低いベクトル検索にも対応
pgvectorscale
pgvectorを拡張する機能
効率的にメモリをキャッシュ
量子化をサポート#jawsug_nagoya
少しは楽しんで(?)いただけたようで、良かったです。
(思いのほか長くなってしまったので懇親会は省略)