コメントありがとうございます。楽しんで頂けたとのことで、大変ありがたく思います。
コメントいただいた件について、私(高橋)の見解を簡単に説明しておきます。
「査読がザル」という件ですが、ちょっと強めの言葉にはなっていますが、意味合いとしてはご指摘いただいていることとほぼ同じだろうと思います。
「ザル」の定義を正確にするとすると、十分な科学的知見となりえないものも査読を通ってしまうことがよくある、という意味で(私は)使っています。
つまり現状を考えるに、Pre-publicationの査読は厳密に内容を審査された科学的知見と見做すための必要条件であり十分条件ではない、という意味です。
reviewerやeditor、著者に失礼
これは理解できるのですが、失礼だからという理由で「査読が十分に機能しています」ということ、あるいは失礼だからという理由でシステムの弱点に言及しないとうことは、結果的に誤解を生み、事態を悪化させてしまうように思います。
もちろん多くの個々の研究者を見れば、真剣に執筆し、真剣に査読し、真剣に編集業務にあたっているということに全く異論はありません。私自身もそうしているつもりです。
しかし査読システムとして捉えたときに、やはりそこをすり抜けてしまうものが多くある、ということもまた疑いようのない事実であると思います。
このエビデンスということですが、査読システムに関する研究というものはかなりの量、あります。いくつかすぐに見当たるものを引っ張ってみると:
方法上の不十分な点がかなり見逃されてしまってる https://pubmed.ncbi.nlm.nih.gov/24986891/
査読の抱える問題とその対応策 https://www.jstage.jst.go.jp/article/jkg/66/3/66_115/_article/-char/ja/
コロナ関連での記事 https://news.yahoo.co.jp/byline/enokieisuke/20200606-00182065/
ハイインパクトな雑誌ほどretraction indexが高い https://www.nature.com/news/why-high-profile-journals-have-more-retractions-1.15951
これについては読んで頂ければいいと思いますが・・・ https://www.wired.com/story/peer-reviewed-scientific-journals-dont-really-do-their-job/
定性的な話として、査読済み論文がretractionされることは全く珍しいことではありません。 https://retractionwatch.com/ https://twitter.com/RetractionWatch
また悪意ある例としては、predatory journalやフェイク査読などもあり、これらは我々の議論の対象とは一線を画すものではありますが、一般に公開するという文脈で「査読済み」の質を見極めるのは極めて難しいように思います。
結局のところ、ひとつの査読済み論文がものごとの真偽を結論づけることは極稀であり、またそのような強い責任をひとつの研究に負わせるのではなく、延々とつながる研究の流れの中で、その価値が見定められていくのだろうと感じています。
関連してこちらも(プレプリですが)ご覧頂けると幸いです。 Post-Publication Peer Review for Real https://psyarxiv.com/sp3j5/
以上が、私(高橋)の見解です。池田さんはまた別の考えを持っているかもしれません。
引き続きコメント頂けますとありがたく思います。