MySQL Orchestrator RecoveryPeriodBlockSeconds と FailureDetectionPeriodBlockMinutes の違い

MySQL

Orchestrator orchestrator はマスターの障害検知およびレプリカのマスター昇格（フェイルオーバー）を自動で行うソフトウェアです。 MySQLのマスター昇格といえば、MHAがデファクトスタンダードでしたが、MHAはメンテナンスモードになって久しい・・・とい…

データベース

MySQL

2021-02-08

MySQL 論理削除に関する個人的見解まとめ

MySQL

技術顧問や講演の場で、論理削除について見解を聞かれる場面がよくあります。アプリケーション開発者の方にとって、身近なデータベースの疑問なんでしょうね。しっかり言語化できてなかったので、ブログに書いておきます。論理削除をどう考えるかは、諸派…

2021-01-24

MySQL GISのSRID 0（直行座標）を理解する

MySQL

MySQLで20年ほど遊んでいますが・・・知らないことも、まだまだあります。 GIS(Geographic Information System、地理・空間情報) はそのうちの１つです。ということで、ほとんど触れたことのない、GISを入門してみます。なお、このエントリーは MySQL 8.0 …

2020-12-28

MySQL 1レコード 8000バイトの壁を確認するSQL ROW_FORMAT=DYNAMIC 編

MySQL

InnoDBのレコード長の限界 InnoDBのデフォルトのページサイズは、16Kです。この場合、最大レコード長は約8000バイトです。マニュアルで「約8000バイト」と曖昧な言い回しになっているのは、データの保存に使える領域以外にメタデータを保存する領域が必要だ…

MySQL

データベース

2020-12-26

MySQL Index dive の動きを観測してみた

MySQL

Index dive とは range スキャンの場合に、オプティマイザーがその範囲に含まれる行数を正確に見積もるための仕組みです。インデックスダイブは特に値の分布が偏っているデータに対して、効果を発揮します。 eq_range_index_dive_limit パラメータインデッ…

MySQL

データベース

2020-12-20

MySQL バイナリログをマスキングするツールを作ってみた

MySQL

このエントリーは MySQL Advent Calendar 2020 の 12/20 のエントリーです。問題を再現させるためにバイナリログが必要 MySQL は OSS です。誰でも無料で自由に使うことができます。一方、Oracle や Percona といったデータベースを専門とする会社にお願い…

MySQL

データベース

2020-12-13

日本MySQLユーザ会望年LT大会2020に参加してきた

MySQL

先週、MyNA(日本MySQLユーザ会) 忘年LT大会 2020に参加して、飲みながらLTをネタにワイワイしてきました。自分からは、ここ最近取り組んでいた、MySQL Shell のバックアップ機能のバグについてLTしました。実際にどうやってデバッグしたか*1 など、ワイワ…

MySQL

データベース

2020-12-07

MySQL 8.0 でも utf8mb4_general_ci を使い続けたい僕らは

MySQL

このエントリーは MySQL Advent Calendar 2020 の 12/7 のエントリーです。照合順序（COLLATION）とは照合順序は文字列の比較やソート順のルールのことです。各キャラクタセットごとに照合順序が定義されています。 -- SHOW COLLATIONS で一覧が見れる mys…

データベース

MySQL

2020-11-22

MySQL ヒストグラムはバックアップされるか

MySQL

MySQL 8.0 でヒストグラム統計が追加されました。従来、MySQLはデータが均等に分布していると仮定し、実行計画を組み立てていました。ヒストグラムを使えば正確なデータの分布に基づいて、より最適な実行計画が選択されるようになります。 yakst.com ヒスト…

MySQL

データベース

2020-11-19

MySQL Lock wait timeout exceeded が発生している現場を押さえる

MySQL

pt-stalk は、vmstat や psといったOSから見える情報や SHOW PROCESSLIST SHOW GLOBAL STATUSといったDBの情報など、MySQLのトラブルシュートに必要な情報をごっそり収集するツールです。 $ sudo ls -l /var/lib/pt-stalk total 1428 -rw-r--r--. 1 root roo…

MySQL

データベース

2020-11-12

MySQL 8.0 でパスワードのハッシュ値でユーザを作成する構文が変わってた

MySQL

MySQL では、パスワードのハッシュ値を指定してユーザを作ることが出来ます。 mysql> SELECT authentication_string FROM mysql.user WHERE User = 'usr'; +-------------------------------------------+ | authentication_string | +---------------------…

MySQL

データベース

2020-11-05

MySQL Shell 8.0 を CentOS7 上でソースからビルドする

MySQL

前回のエントリーでMySQL Shellのバグについて書きました。バグの原因を調査するために、MySQL Shellをビルドしたんですが、ビルドに苦労しました、、、 MySQL Shell をビルドするために乗り越えた障害と対応を方法をメモしておきます。まず、MySQL Shell …

2020-11-04

MySQL Shell dumpInstance が一貫性の壊れたバックアップを生成するバグの件（修正済み）

MySQL

このバグは MySQL Shell 8.0.23 で修正済みです。前回のエントリーで MySQL Shell の dumpInstance にはバグがあると書きました。今回は、そのバグについてです。どんなバグかバックアップの一貫性が失われるバグです。一貫性が失われるている状態とは、…

MySQL

データベース

2020-11-04

MySQL Shell dumpInstance の仕組みと8.0.22 わいわい会

MySQL

MySQL Release note でわいわい言う勉強会 8.0.22 でLTしてきました。 MySQL Shell の dumpInstance の仕組み MySQL Shell のバックアップ機能 dumpInstance がどのようにして、一貫性のあるバックアップを実現しているか説明しました。 8.0.21 までは FLUSH…

データベース

MySQL

2020-10-10

MySQL キャラクタセット（文字コード）の変換方法おさらい

MySQL

ALTER TABLE xxx MODIFY 〜でキャラクタセットを変換するのと、ALTER TABLE xxx CONVERT TO〜で変換するのは、どう違うんだっけ？ってなったので、おさらい。データベースのデフォルトキャラクタセット MySQL はカラム単位でキャラクタセット（文字コー…

2020-09-13

MySQL Group Replication vs Percona XtraDB Cluster 〜DDLのKILL 編〜

MySQL

MySQL のマルチマスターのソリューションである、PXC と Group Replication の比較記事が続きます・・・ PXC では DDL は KILL できない Percona XtraDB Cluster (Galera) では DDL実行中は、すべてのノードで更新が止まると、以前のエントリーで書きました…

2020-09-06

MySQL Group Replication vs Percona XtraDB Cluster 〜フルデータコピー中のDDLブロック編〜

MySQL

フルデータコピーが行われるタイミング PXC や MySQL Group Replication では、新規にノードを追加したタイミングや、障害発生後、既存ノードからデータをコピーし、復旧する機能があります。データコピー中のDDLの挙動の比較フルデータコピーには非常に時…

2020-09-03

MySQL Group Replication vs Percona XtraDB Cluster 〜DDLのロック編〜

MySQL

Gelera Cluster / Percona XtraDB Cluster Galera Cluster for MySQL はフィンランドの会社が開発している、MySQL の fork （派生製品）の１つです。wsrep API と呼ばれる独自のレプリケーション機構を使った、マルチマスター型のHA構成を組むことができま…

2020-08-30

Percona Playback で本番 MySQLに流れているクエリを試験環境でリプレイする

MySQL

データベースのバージョンアップの際、アプリケーションの網羅的なテストが可能であれば良いのですが、どうしても難しいケースがあります。そのような場合、リプレイツールで本番環境に流れているクエリを、試験環境でリプレイ（再現）し、動作確認を取る方…

2020-08-29

MySQL Shell で検証環境を作る

MySQL

日々、検証のためDBサーバを作っては捨て、作っては捨てる・・を繰り返しています。そうすると、検証環境を作る手間を省きたくなってきます。 dbdeployer、docker-compose やchef など、いろいろなツールを試してきましたが、結局、白紙の仮装マシン（VM）…

2020-08-23

MySQL スロークエリログからやたら遅いクエリだけ取り出す

MySQL

日常的に、long_query_time をちょっと超えているクエリが流れていて、スロークエリログが多く出力されているDBってあったりしますよね？そんなログからノイズとなってしまっている、ちょっと遅いクエリは除いて、非常に重症のクエリのログだけに絞って見た…

2020-08-21

MySQL ALTER TABLEとその影響まとめ

MySQL

MySQLの初期のALTER TABLEの実装は非常にシンプルな実装でした。新しいテーブル定義で(内部的に)一時テーブルを作成し、そこに既存のデータをコピーして、コピーが終わったら入れ替えます。コピー中は更新をブロックします。 MySQL v5.6 でオンラインDDL …

2020-08-20

AWS Aurora MySQL v5.6 から v5.7 へのアップグレードをちょっとだけ考えてみた

Aurora

Aurora MySQL v5.6 のサポート期限がいつかわからない現在、Auroraでは、MySQL v5.6 (Engine 1.x) とv5.7互換 (Engine 2.x) のデータベースが利用できます。 Oracleが開発しているオリジナルのMySQL v5.6(以降 Vanilla MySQLと記載) は、2021/02 にサポート…

2020-08-15

MySQL Shell dumpInstance でバックアップ中はDDL が待機させられる

MySQL

MySQL Sever Blog に MySQL Shell 8.0.21 の Dump / Import 機能についてエントリーが投稿されています。並列化により非常に高速に Dump / Import 出来ることなどが示されてます。非常に強力なツールであることが感じられます。 MySQL Shell Dump & Load pa…

2020-08-14

MySQL のロック範囲は実行計画で変わるという話

MySQL

最近、ANDPADでデータベース周りの技術顧問をさせて頂いています。ANDPADのエンジニアの皆さんから「データベースのロックまわりを詳しく知りたい！」というお話を受けて、先日、ロック周りの社内勉強会を開催しました。 SQLでは一般的なプログラミング言語…

2020-08-11

PHP mysqli ドライバの max_persistent 設定の使い所がよくわからなかった件

PHP MySQL

TL;DR PHP の mysqli.max_persistent で指定できるのは、HTTPワーカプロセスあたりのコネクション数だった「全部で何個まで」っていう制限値じゃなかった PHP mysqli.max_persistent 設定 Persistent Connections まわりのエントリーを先日書きました。 m…