今日の論文2023/05/11, 12：AttentionViz: A Global View of Transformer Attention - izmyonの日記
AttentionViz: A Global View of Transformer Attention arxiv.org Yeh, Catherine, Yida Chen, Aoyu Wu, Cynthia Chen, Fernanda Viégas, and Martin Wattenberg. "AttentionViz: A Global View of Transformer Attention." arXiv preprint arXiv:2305.03210 (2023). ©2023 The Authors License: Creative Commons Attribution 4.0 International License(CC-BY) 本記事は、原著の内容に基づき筆者が要約または翻訳したものです。以下の図は、そこから引用しています。 This article
ChatGPTなどの対話型AIの基礎となっている「Attention」を可視化した「Attention Viz」
ChatGPTやBing Chatの背景にある大規模言語モデルの多くは、Googleが開発したニューラルネットワークアーキテクチャーの「Transformer」を採用しています。このTransformerの鍵になるのが「Self-Attention」というシステムです。このSelf-Attentionを視覚化するためのツール「Attention Viz」を、ハーバード大学とGoogleの共同研究チームが発表しました。 AttentionViz Docs https://catherinesyeh.github.io/attn-docs/ Transformerがどういう仕組みのアーキテクチャなのかについては、以下の記事を読むとよくわかります。 ChatGPTにも使われる機械学習モデル「Transformer」が自然な文章を生成する仕組みとは？ - GIGAZINE 自然言語処理をディープラ
adjustText: matplotlib の散布図でラベルの重なりを自動調整 - Wizard Notes
問題点 matplotlib の散布図などのプロットの際に、各点にラベルを付けてプロットしたい場合、下の図のようにラベルが重なってしまうため、ラベル付きプロットを諦めることが多々ありました。 図1: 散布図 (Before) 解決方法 ラベルの配置を制御する方法を探していたら、adjustTextというモジュールと出会いました。 github.com なんとラベルの重なりを最小限にし、スマートに配置してくれるモジュールとのこと。早速使ってみました。 図2: adjustTextと適用した散布図（アロー無し） 重なりが最小限になり、かなり見やすくなりました！ さらに、アローを付けることもできます。 図3: adjustTextと適用した散布図（アロー付き さすがにプロットする点数が数百点ともなると処理に時間がかかる＆最適化しても重なってしまうため、50±30点くらいの時に使うのが良さそうです
Python matplotlib 時系列グラフ（時間軸の設定） - Qiita
データ読み込み データは２つのエクセルファイルから読み込みます。 ファイル calvert.xlsx １つめのデータは下に示すもので、作例グラフの緑線を描くためのもの。 エクセルで以下のような形で収納されています。これは自分でデータを打ち込んだので、打ち込みやすいよう、日付(dd)、月(mm)、年(yy)、値(Q) という並びにしています。 欠測期間が長く、グラフの線を連続させたくない場合は、欠測期間中のある一日の日付とデータとして nan をいれることにより、グラフの線を結ばないで描画してくれます。 ファイル v-notch.xlsx ２つめのデータは下に示すもので、作例グラフの濃い青線を描くためのもの。 これは既存のエクセルファイルがあったのでそれを用いていますが、ここで使用するのは、カラム A (Date)とカラム N (RWL) だけです。 エクセルファイルからのデータ読み込み エ
Plotly
Plotly JavaScript Open Source Graphing Library Built on top of d3.js and stack.gl, Plotly.js is a high-level, declarative charting library. plotly.js ships with over 40 chart types, including 3D charts, statistical graphs, and SVG maps. plotly.js is free and open source and you can view the source, report issues or contribute on GitHub. Plotly Studio: Transform any dataset into an interactive data
モデルの精度評価（分類問題） - Tech Blog
分類問題の精度評価についてまとめておきます。 代表的な評価指標にはどのようなものがあるのか、その中でどれを使えばいいのか、回帰分析の精度は使えるか、について順に書いていきます。 今回は、下記の混合行列で表されるような疾病検査を例にとって説明します。陽性・陰性は予測クラス、疾病あり・疾病なしは正解クラスです。 疾病あり 疾病なし 陽性 陰性 評価指標には何かあるか？ 一般的によく使われる評価指標に、Precision, Recall, Specificity, F-measure, Accuracy, AUCがある。 1. Precision 陽性と判定された人のうち、実際に疾病がある人の割合。 Precision(精度、適合率), Positive Predictive Value(陽性予測値)と呼ばれる。 2. Recall 実際に疾病がある人のうち、陽性と判定される人の割合。 Reca
Confusion matrix - Wikipedia
In machine learning, a confusion matrix, also known as error matrix,[1] is a specific table layout that allows visualization of the performance of an algorithm, typically a supervised learning one. In unsupervised learning it is usually called a matching matrix. The term is used specifically in the problem of statistical classification. Each row of the matrix represents the instances in an actual
改訂版: プログラマーが効果的な可視化を作成する （前編） - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? 改訂版について (5/7/2019公開) この記事は、私がこちらに公開したもの中では最も読まれているようです。そこで、執筆後に気づいたこと、古くなった情報、新しい技術動向などを考慮に入れて改訂をしました。主な変更点は以下の通りです： 新しいセクションの追加 最近の本の紹介 細かな表現の修正 この記事は複数のセクションに分かれていますので、前編から始め、順番にアップデートして行きたいと思います。何かお気付きの点などありましたら、コメント欄、もしくはkonoアットマークucsd.eduにお願いいたします。 はじめに この記事は、可視化の専門
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
PythonとPlotlyでオープンデータを可視化する - Pythonと本と子供と雑談と
Demos - JavaScript InfoVis Toolkit