ここのコメント欄の mathnb さんの問題の、とりあえずは「誘導問題」の方を解いてみました。問題は
です。解けはしたが、不思議な問題でした。
（回答）
（１）地道に行列の積 NAM を計算すれば
とすぐわかります。
（２）地道に行列の積 N-1BM-1 を計算すると、
の中に答えがありますね。すなわち 17 が答えです。
（３）上の問題（２）を使います。a, b, c, d は整数であることに注意すると、
となります。同様に（a > 0 に注意して）
が得られます。この中で ad - bc = 1, -bd - 2ac = 10 を満たすものを考えると、結局 (a, b, c, d) = (2, -3, -1, 2) が求めるべき答えになります。
（４）上で得た a, b, c, d の値を使って、
より、逆行列を使って
ですから、これを使ってゴリゴリ計算するとなんと
と求められます。これは明らかにカラクリがありますね。それがよくわからないという（笑）。
（５）これは上の結果より、簡単に求められますね。x, y が整数ならば明らかに X, Y も整数ですから、上の式を満たす整数 X, Y の組は
しかありません。これより簡単に、求めるべき答え (x, y) = (-9, 7), (9, -7), (21, -13), (-21, 13) が得られました。
これはきっと「背景」がありますね。mathnb さんの後半の出題は、その「背景」を利用せよということでしょう。自分にはどうもよくわからないが、まあ特にその「背景」を考えてみることとしましょう。
すぐわかるのは、
が成立することですね。これと
が成り立っていると。これはすなわち
であるなあ。ちなみに
である。うーむ。
これらの結果から、双曲線
の整数解を求めるのかあ…。y の 1次の項があるのが上とちがうな。
上の問題で重要なのは、(x, y) と (X, Y) のいずれも、片方が格子点（整数解）ならばもう片方も格子点になっていることですね。なので簡単な (X, Y) について格子点を求め、座標変換で (x, y) の格子点に写すことが出来る。だから、変換行列とその逆行列の成分がすべて整数であればよいと。
ということは、それを満たし、
の xy と y の項を消すような変換行列を求めればよいわけか。しかし、仮に変換できても楕円ではなく、双曲線というのもむずかしそうだ…。
とりあえず、解がないわけではない。自明な解 (x, y) = (0, 0) があるし、数値計算してみると、-10000 から 10000 の範囲で
(x, y) = (-1230, 225), (-88, 16), (-6, 1), (2, 1), (24, 16),
(330, 225), (4592, 3136)
などの（自明でない）解があることがわかる。しかしこれを見ても、これですべてだとは到底わからない。これを見ていると、y は平方数であるな…。
