]> scripts.mit.edu Git - autoinstallsdev/mediawiki.git/blobdiff - maintenance/postgres/compare_schemas.pl
MediaWiki 1.30.2
[autoinstallsdev/mediawiki.git] / maintenance / postgres / compare_schemas.pl
old mode 100644 (file)
new mode 100755 (executable)
index 144663d..bb08237
@@ -9,7 +9,7 @@ use warnings;
 use Data::Dumper;
 use Cwd;
 
-check_valid_sql();
+#check_valid_sql();
 
 my @old = ('../tables.sql');
 my $new = 'tables.sql';
@@ -38,17 +38,17 @@ while (<DATA>) {
 
 my $datatype = join '|' => qw(
 bool
-tinyint int bigint real float
+tinyint smallint int bigint real float
 tinytext mediumtext text char varchar varbinary binary
 timestamp datetime
 tinyblob mediumblob blob
 );
-$datatype .= q{|ENUM\([\"\w, ]+\)};
+$datatype .= q{|ENUM\([\"\w\', ]+\)};
 $datatype = qr{($datatype)};
 
 my $typeval = qr{(\(\d+\))?};
 
-my $typeval2 = qr{ signed| unsigned| binary| NOT NULL| NULL| auto_increment| default ['\-\d\w"]+| REFERENCES .+CASCADE};
+my $typeval2 = qr{ signed| unsigned| binary| NOT NULL| NULL| PRIMARY KEY| AUTO_INCREMENT| default ['\-\d\w"]+| REFERENCES .+CASCADE};
 
 my $indextype = join '|' => qw(INDEX KEY FULLTEXT), 'PRIMARY KEY', 'UNIQUE INDEX', 'UNIQUE KEY';
 $indextype = qr{$indextype};
@@ -96,9 +96,15 @@ sub parse_sql {
                chomp;
 
                if (/CREATE\s*TABLE/i) {
-                       m{^CREATE TABLE /\*\$wgDBprefix\*/(\w+) \($}
-                               or die qq{Invalid CREATE TABLE at line $. of $oldfile\n};
-                       $table = $1;
+                       if (m{^CREATE TABLE /\*_\*/(\w+) \($}) {
+                               $table = $1;
+                       }
+                       elsif (m{^CREATE TABLE /\*\$wgDBprefix\*/(\w+) \($}) {
+                               $table = $1;
+                       }
+                       else {
+                               die qq{Invalid CREATE TABLE at line $. of $oldfile\n};
+                       }
                        $info{$table}{name}=$table;
                }
                elsif (m{^\) /\*\$wgDBTableOptions\*/}) {
@@ -114,14 +120,16 @@ sub parse_sql {
                        $info{$table}{type}=$2;
                        $info{$table}{charset}=$3;
                }
-               elsif (/^  (\w+) $datatype$typeval$typeval2{0,3},?$/) {
+               elsif (/^  (\w+) $datatype$typeval$typeval2{0,4},?$/) {
                        $info{$table}{column}{$1} = $2;
                        my $extra = $3 || '';
                        $info{$table}{columnfull}{$1} = "$2$extra";
                }
-               elsif (/^  ($indextype)(?: (\w+))? \(([\w, \(\)]+)\),?$/) {
-                       $info{$table}{lc $1.'_name'} = $2 ? $2 : '';
-                       $info{$table}{lc $1.'pk_target'} = $3;
+               elsif (m{^  UNIQUE KEY (\w+) \((.+?)\)}) {
+               }
+               elsif (m{^CREATE (?:UNIQUE )?(?:FULLTEXT )?INDEX /\*i\*/(\w+) ON /\*_\*/(\w+) \((.+?)\);}) {
+               }
+               elsif (m{^\s*PRIMARY KEY \([\w,]+\)}) {
                }
                else {
                        die "Cannot parse line $. of $oldfile:\n$_\n";
@@ -134,47 +142,6 @@ sub parse_sql {
 
 } ## end of parse_sql
 
-## Read in the parser test information
-my $parsefile = '../parserTests.inc';
-open my $pfh, '<', $parsefile or die qq{Could not open "$parsefile": $!\n};
-my $stat = 0;
-my %ptable;
-while (<$pfh>) {
-       if (!$stat) {
-               if (/function listTables/) {
-                       $stat = 1;
-               }
-               next;
-       }
-       $ptable{$1}=2 while m{'(\w+)'}g;
-       last if /\);/;
-}
-close $pfh or die qq{Could not close "$parsefile": $!\n};
-
-my $OK_NOT_IN_PTABLE = '
-filearchive
-logging
-profiling
-querycache_info
-searchindex
-trackbacks
-transcache
-user_newtalk
-updatelog
-';
-
-## Make sure all tables in main tables.sql are accounted for in the parsertest.
-for my $table (sort keys %{$old{'../tables.sql'}}) {
-       $ptable{$table}++;
-       next if $ptable{$table} > 2;
-       next if $OK_NOT_IN_PTABLE =~ /\b$table\b/;
-       print qq{Table "$table" is in the schema, but not used inside of parserTest.inc\n};
-}
-## Any that are used in ptables but no longer exist in the schema?
-for my $table (sort grep { $ptable{$_} == 2 } keys %ptable) {
-       print qq{Table "$table" ($ptable{$table}) used in parserTest.inc, but not found in schema\n};
-}
-
 for my $oldfile (@old) {
 
 ## Begin non-standard indent
@@ -191,16 +158,17 @@ for my $table (sort keys %{$old{$oldfile}}) {
        }
 }
 
-my $dtype = join '|' => qw(
+my $dtypelist = join '|' => qw(
 SMALLINT INTEGER BIGINT NUMERIC SERIAL
 TEXT CHAR VARCHAR
 BYTEA
 TIMESTAMPTZ
 CIDR
 );
-$dtype = qr{($dtype)};
+my $dtype = qr{($dtypelist)};
 my %new;
 my ($infunction,$inview,$inrule,$lastcomma) = (0,0,0,0);
+my %custom_type;
 seek $newfh, 0, 0;
 while (<$newfh>) {
        next if /^\s*\-\-/ or /^\s*$/;
@@ -212,6 +180,15 @@ while (<$newfh>) {
        next if /^CREATE TRIGGER/ or /^  FOR EACH ROW/;
        next if /^INSERT INTO/ or /^  VALUES \(/;
        next if /^ALTER TABLE/;
+       next if /^DROP SEQUENCE/;
+       next if /^DROP FUNCTION/;
+
+       if (/^CREATE TYPE (\w+)/) {
+               die "Type $1 declared more than once!\n" if $custom_type{$1}++;
+               $dtype = qr{($dtypelist|$1)};
+               next;
+       }
+
        chomp;
 
        if (/^\$mw\$;?$/) {
@@ -249,6 +226,9 @@ while (<$newfh>) {
                }
                $lastcomma = $3 ? 1 : 0;
        }
+       elsif (m{^\s*PRIMARY KEY \([\w,]+\)}) {
+               $lastcomma = 0;
+       }
        else {
                die "Cannot parse line $. of $new:\n$_\n";
        }
@@ -259,6 +239,7 @@ my $COLMAP = q{
 ## INTS:
 tinyint SMALLINT
 int INTEGER SERIAL
+smallint SMALLINT
 bigint BIGINT
 real NUMERIC
 float NUMERIC
@@ -293,7 +274,8 @@ ar_comment      tinyblob       TEXT
 fa_description  tinyblob       TEXT
 img_description tinyblob       TEXT
 ipb_reason      tinyblob       TEXT
-log_action      varbinary(10)  TEXT
+log_action      varbinary(32)  TEXT
+log_type        varbinary(32)  TEXT
 oi_description  tinyblob       TEXT
 rev_comment     tinyblob       TEXT
 rc_log_action   varbinary(255) TEXT
@@ -301,20 +283,39 @@ rc_log_type     varbinary(255) TEXT
 
 ## Simple text-only strings:
 ar_flags          tinyblob       TEXT
-fa_minor_mime     varbinary(32)  TEXT
+cf_name           varbinary(255) TEXT
+cf_value          blob           TEXT
+ar_sha1           varbinary(32)  TEXT
+cl_collation      varbinary(32)  TEXT
+cl_sortkey        varbinary(230) TEXT
+ct_params         blob           TEXT
+fa_minor_mime     varbinary(100) TEXT
 fa_storage_group  varbinary(16)  TEXT # Just 'deleted' for now, should stay plain text
 fa_storage_key    varbinary(64)  TEXT # sha1 plus text extension
 ipb_address       tinyblob       TEXT # IP address or username
 ipb_range_end     tinyblob       TEXT # hexadecimal
 ipb_range_start   tinyblob       TEXT # hexadecimal
-img_minor_mime    varbinary(32)  TEXT
+img_minor_mime    varbinary(100) TEXT
+lc_lang           varbinary(32)  TEXT
+lc_value          varbinary(32)  TEXT
 img_sha1          varbinary(32)  TEXT
+iw_wikiid         varchar(64)    TEXT
 job_cmd           varbinary(60)  TEXT # Should we limit to 60 as well?
 keyname           varbinary(255) TEXT # No tablename prefix (objectcache)
 ll_lang           varbinary(20)  TEXT # Language code
+lc_value          mediumblob     TEXT
 log_params        blob           TEXT # LF separated list of args
 log_type          varbinary(10)  TEXT
-oi_minor_mime     varbinary(32)  TEXT
+ls_field          varbinary(32)  TEXT
+md_deps           mediumblob     TEXT # JSON
+md_module         varbinary(255) TEXT
+md_skin           varbinary(32)  TEXT
+mr_blob           mediumblob     TEXT # JSON
+mr_lang           varbinary(32)  TEXT
+mr_resource       varbinary(255) TEXT
+mrl_message       varbinary(255) TEXT
+mrl_resource      varbinary(255) TEXT
+oi_minor_mime     varbinary(100) TEXT
 oi_sha1           varbinary(32)  TEXT
 old_flags         tinyblob       TEXT
 old_text          mediumblob     TEXT
@@ -330,18 +331,29 @@ qc_type           varbinary(32)  TEXT
 qcc_type          varbinary(32)  TEXT
 qci_type          varbinary(32)  TEXT
 rc_params         blob           TEXT
+rev_sha1          varbinary(32)  TEXT
 rlc_to_blob       blob           TEXT
-ug_group          varbinary(16)  TEXT
+ts_tags           blob           TEXT
+ufg_group         varbinary(32)  TEXT
+ug_group          varbinary(32)  TEXT
+ul_value          blob           TEXT
+up_property       varbinary(255) TEXT
+up_value          blob           TEXT
+us_sha1           varchar(31)    TEXT
+us_source_type    varchar(50)    TEXT
+us_status         varchar(50)    TEXT
 user_email_token  binary(32)     TEXT
 user_ip           varbinary(40)  TEXT
 user_newpassword  tinyblob       TEXT
 user_options      blob           TEXT
 user_password     tinyblob       TEXT
 user_token        binary(32)     TEXT
+iwl_prefix      varbinary(20)  TEXT
 
 ## Text URLs:
 el_index blob           TEXT
 el_to    blob           TEXT
+iw_api   blob           TEXT
 iw_url   blob           TEXT
 tb_url   blob           TEXT
 tc_url   varbinary(255) TEXT
@@ -383,7 +395,6 @@ ss_active_users  bigint INTEGER
 ss_good_articles bigint INTEGER
 ss_total_edits   bigint INTEGER
 ss_total_pages   bigint INTEGER
-ss_total_views   bigint INTEGER
 ss_users         bigint INTEGER
 
 ## True IP - keep an eye on these, coders tend to make textual assumptions
@@ -442,6 +453,9 @@ for my $t (sort keys %{$old{$oldfile}}) {
                next if exists $colmapok{$c}{$old}{$new};
 
                $old =~ s/ENUM.*/ENUM/;
+
+               next if $old eq 'ENUM' and $new eq 'media_type';
+
                if (! exists $colmap{$old}{$new}) {
                        print "Column types for $t.$c do not match: $old does not map to $new\n";
                }
@@ -497,6 +511,8 @@ sub find_problems {
 
        my $file = shift;
        open my $fh, '<', $file or die qq{Could not open "$file": $!\n};
+       my $lastline = '';
+       my $inarray = 0;
        while (<$fh>) {
                if (/FORCE INDEX/ and $file !~ /Database\w*\.php/) {
                        warn "Found FORCE INDEX string at line $. of $file\n";
@@ -513,6 +529,29 @@ sub find_problems {
                if (/\bGROUP\s+BY\s*\d\b/i and $file !~ /Database\w*\.php/) {
                        warn "Found GROUP BY # at line $. of $file\n";
                }
+               if (/wfGetDB\s*\(\s+\)/io) {
+                       warn "wfGETDB is missing parameters at line $. of $file\n";
+               }
+               if (/=\s*array\s*\(\s*$/) {
+                       $inarray = 1;
+                       next;
+               }
+               if ($inarray) {
+                       if (/\s*\);\s*$/) {
+                               $inarray = 0;
+                               next;
+                       }
+                       next if ! /\w/ or /array\(\s*$/ or /^\s*#/ or m{^\s*//};
+                       if (! /,/) {
+                               my $nextline = <$fh>;
+                               last if ! defined $nextline;
+                               if ($nextline =~ /^\s*\)[;,]/) {
+                                       $inarray = 0;
+                                       next;
+                               }
+                               #warn "Array is missing a comma? Line $. of $file\n";
+                       }
+               }
        }
        close $fh or die qq{Could not close "$file": $!\n};
        return;
@@ -525,5 +564,4 @@ __DATA__
 OLD: searchindex          ## We use tsearch2 directly on the page table instead
 RENAME: user mwuser       ## Reserved word causing lots of problems
 RENAME: text pagecontent  ## Reserved word
-NEW: mediawiki_version    ## Just us, for now
 XFILE: ../archives/patch-profiling.sql