Datasets:
Update README.md
Browse files
README.md
CHANGED
|
@@ -128,6 +128,61 @@ pretty_name: Japanese StackOverflow
|
|
| 128 |
size_categories:
|
| 129 |
- 10K<n<100K
|
| 130 |
---
|
| 131 |
-
# Dataset Card for "ja-stackoverflow"
|
| 132 |
|
| 133 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 128 |
size_categories:
|
| 129 |
- 10K<n<100K
|
| 130 |
---
|
|
|
|
| 131 |
|
| 132 |
+
# ja-stackoverflow
|
| 133 |
+
|
| 134 |
+
日本語版 Stack Overflow の [スタック・オーバーフロー](https://ja.stackoverflow.com/) の[データダンプ](https://archive.org/download/stackexchange) をもとにデータを加工し、質問文と回答文のペアになるように調整した QA データセット。
|
| 135 |
+
|
| 136 |
+
## データ構造
|
| 137 |
+
|
| 138 |
+
投稿本文は `html2text` を使ってマークダウン化されています。その際、
|
| 139 |
+
|
| 140 |
+
- コードブロックは \`\`\` で囲まれるように変更されています。
|
| 141 |
+
- 画像 URL に base64 エンコードされた画像が含まれる場合、 `[unk]` に置き換えています。
|
| 142 |
+
|
| 143 |
+
### `default` サブセット
|
| 144 |
+
|
| 145 |
+
- `id`: 質問投稿の ID
|
| 146 |
+
- `question`: 質問投稿
|
| 147 |
+
- `answers`: 質問に対する回答投稿のリスト
|
| 148 |
+
- `accepted_answer_id`: 質問者に選ばれた回答のID。`null` の可能性がある
|
| 149 |
+
- `popular_answer_id`: もっともスコアが高かった回答のID。`null` の可能性がある
|
| 150 |
+
|
| 151 |
+
|
| 152 |
+
### `simple` サブセット
|
| 153 |
+
|
| 154 |
+
`default` サブセットから、 `question` と `answers` の辞書を展開しシンプルにしたもの。
|
| 155 |
+
|
| 156 |
+
- `id`: 質問投稿の ID
|
| 157 |
+
- `accepted_answer_id`: 質問者に選ばれた回答のID。`null` の可能性がある
|
| 158 |
+
- `popular_answer_id`: もっともスコアが高かった回答のID。`null` の可能性がある
|
| 159 |
+
- `title`: 質問のタイトル
|
| 160 |
+
- `question_body`: 質問本文
|
| 161 |
+
- `question_score`: 質問のスコア
|
| 162 |
+
- `tags`: 質問に関連付けられたタグ
|
| 163 |
+
- `accepted_answer_body`: 質問者に選ばれた回答の本文。`null` の可能性がある
|
| 164 |
+
- `accepted_answer_score`: 質問者に選ばれた回答のスコア。`null` の可能性がある
|
| 165 |
+
- `popular_answer_body`: もっともスコアが高かった回答の本文。`null` の可能性がある
|
| 166 |
+
- `popular_answer_score`: もっともスコアが高かった回答のスコア。`null` の可能性がある
|
| 167 |
+
|
| 168 |
+
## 使い方
|
| 169 |
+
|
| 170 |
+
datasets ライブラリを用いて簡単に利用できます。
|
| 171 |
+
|
| 172 |
+
```py
|
| 173 |
+
from datasets import load_dataset
|
| 174 |
+
|
| 175 |
+
dataset = load_dataset("p1atdev/ja-stackoverflow", config_name="simple" split="train")
|
| 176 |
+
|
| 177 |
+
print(dataset)
|
| 178 |
+
#Dataset({
|
| 179 |
+
# features: ['id', 'accepted_answer_id', 'popular_answer_id', 'title', 'question_body', 'question_score', 'accepted_answer_body', 'accepted_answer_score', 'popular_answer_body', 'popular_answer_score', 'tags'],
|
| 180 |
+
# num_rows: 30551
|
| 181 |
+
#})
|
| 182 |
+
```
|
| 183 |
+
|
| 184 |
+
|
| 185 |
+
|
| 186 |
+
## ライセンス
|
| 187 |
+
|
| 188 |
+
StackOverflow に基づき、[CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)
|